yuhai-china/ds4-spark

ds4-spark 최신 커밋이 Markov draft용 출력 헤드 계산을 Metal GPU 쪽으로 옮겨 CPU 측 Q8_0 역양자화 단계를 없앴다.

GitHub 설명: DeepSeek V4 Flash DSpark local inference engine with Markov speculative decoding. Based on antirez/ds4.

스타

★ 1

포크

0

언어

C

라이선스

MIT