Devotd Github

truespar/paddock

truespar/paddock 通过 2026 年 11 月 5 日的提交,新增了在 NVIDIA Ada 及更高版本 GPU 上运行 Recursive 面向编码代理的模型 Flint(40B,激活 2.5B)的支持。

GitHub 项目说明: Native Rust inference server for open models on NVIDIA and Apple Silicon. OpenAI- and Anthropic-compatible APIs, GGUF + safetensors + MLX, FP8/NVFP4/MXFP4/Q8/Q4, built-in Studio

在 GitHub 查看 ↗
星标
★ 135
复刻
19
语言
Rust
许可证
NOASSERTION
最新版本
v0.1.18

文章

1