yuhai-china/ds4-spark

ds4-spark の最新コミットは Markov draft 用の出力ヘッド計算を Metal GPU 側へ移し、CPU 側の Q8_0 逆量子化ステップを廃止した。

GitHub の説明: DeepSeek V4 Flash DSpark local inference engine with Markov speculative decoding. Based on antirez/ds4.

スター

★ 1

フォーク

0

言語

C

ライセンス

MIT