yibie/strata-mlx

yibie/strata-mlx 默认启用了对话停放（conversation parking），并让低于 256 token 的请求不占用槽位，从而改变了在其他客户端请求之后重新读取长提示词的默认行为。

GitHub 项目说明: Qwen3.8-Flash-Next on Apple Silicon: an MLX engine that reads Strata's GGUF files and speaks its line protocol (unofficial)

星标

★ 97

复刻

15

语言

Python

许可证

MIT