yuhai-china/ds4-spark

ds4-spark 的最新提交把 Markov draft 用的输出头计算移到了 Metal GPU 侧，去掉了 CPU 侧的 Q8_0 反量化步骤。

GitHub 项目说明: DeepSeek V4 Flash DSpark local inference engine with Markov speculative decoding. Based on antirez/ds4.

星标

★ 1

复刻

0

语言

C

许可证

MIT