Devotd Github

aristo94/gsqhalo.cpp

GSQ 양자화 Qwen3.8-Flash-Next용 llama.cpp 포크가 SSD에서 되읽은 대화가 원래 대화와 동일하게 이어지는지 검증하는 'restore oracle' 절을 문서에 복원했다.

GitHub 설명: llama.cpp fork for GSQ-quantized Qwen3.8-Flash-Next on AMD Strix Halo (gfx1151): faster ROCm prefill, MTP and 4×256K chats with Q8_0 KV and one KV stream per slot, persistent KV cache on SSD. Fork of halo-box/strix-llama.cpp.

GitHub에서 보기 ↗
스타
★ 11
포크
0
언어
C++
라이선스
MIT

게시물

1