새 소식
aristo94/gsqhalo.cpp — SSD 프롬프트 캐시 복원 오라클 문서
GSQ 양자화 Qwen3.8-Flash-Next용 llama.cpp 포크가 SSD에서 되읽은 대화가 원래 대화와 동일하게 이어지는지 검증하는 'restore oracle' 절을 문서에 복원했다.
GSQ 양자화 Qwen3.8-Flash-Next용 llama.cpp 포크가 SSD에서 되읽은 대화가 원래 대화와 동일하게 이어지는지 검증하는 'restore oracle' 절을 문서에 복원했다.
GitHub 설명: llama.cpp fork for GSQ-quantized Qwen3.8-Flash-Next on AMD Strix Halo (gfx1151): faster ROCm prefill, MTP and 4×256K chats with Q8_0 KV and one KV stream per slot, persistent KV cache on SSD. Fork of halo-box/strix-llama.cpp.
GitHub에서 보기 ↗GSQ 양자화 Qwen3.8-Flash-Next용 llama.cpp 포크가 SSD에서 되읽은 대화가 원래 대화와 동일하게 이어지는지 검증하는 'restore oracle' 절을 문서에 복원했다.
조건에 맞는 소식이 없습니다.