yibie/strata-mlx

yibie/strata-mlx は会話パーキング（conversation parking）をデフォルトで有効にし、256 トークン未満のリクエストがスロットを占めないようにした。これにより、別のクライアントのリクエストの後に長いプロンプトを読み直すという既定の動作が変わった。

GitHub の説明: Qwen3.8-Flash-Next on Apple Silicon: an MLX engine that reads Strata's GGUF files and speaks its line protocol (unofficial)

スター

★ 97

フォーク

15

言語

Python

ライセンス

MIT