新发现
nipegun/moe-gguf-server — MoE GGUF 本地推理服务器的首次公开提交
nipegun/moe-gguf-server 是一个在本地运行 GGUF 格式 MoE 模型的项目，现已公开首个提交，将整个仓库一并加入，同时添加了 PolyForm Noncommercial 1.0.0 许可证。
nipegun/moe-gguf-server
nipegun/moe-gguf-server 是一个在本地运行 GGUF 格式 MoE 模型的项目，现已公开首个提交，将整个仓库一并加入，同时添加了 PolyForm Noncommercial 1.0.0 许可证。
GitHub 项目说明: Like llama.cpp and FreeToken but crafted with nipegunian scalpel precision to achieve the fastest inference speed possible out of MoE models.
在 GitHub 查看 ↗- 星标
- ★ 0
- 复刻
- 0
- 语言
- C++
- 许可证
- NOASSERTION
文章
1没有符合条件的动态。