github.devotd.

peonist-ai/halogen-flash-server

peonist-ai/halogen-flash-server は AMD Strix Halo 専用カーネルで Qwen3.8-Flash-Next を実行する推論サーバーで、0.7.0 から llama.cpp GGUF をそのまま読み込む。

GitHub の説明: The fastest way to run Qwen3.8-Flash-Next on Strix Halo (gfx1151)

GitHub で見る ↗
スター
★ 1K
フォーク
82
言語
Shell
ライセンス
NOASSERTION

投稿

1