Devotd Github

aristo94/gsqhalo.cpp

GSQ 量子化 Qwen3.8-Flash-Next 用の llama.cpp フォークの文書に、SSD から読み戻した会話が元の会話と同一に続くかどうかを検証する「restore oracle」節を復元した。

GitHub の説明: llama.cpp fork for GSQ-quantized Qwen3.8-Flash-Next on AMD Strix Halo (gfx1151): faster ROCm prefill, MTP and 4×256K chats with Q8_0 KV and one KV stream per slot, persistent KV cache on SSD. Fork of halo-box/strix-llama.cpp.

GitHub で見る ↗
スター
★ 11
フォーク
0
言語
C++
ライセンス
MIT

投稿

1