新发现
lithos-ai/lithos-metal v0.1.2 — 面向 Apple 芯片的 LLM 推理引擎
介绍 lithos-ai/lithos-metal 的 v0.1.2、面向 Apple 芯片的 Metal 推理与服务结构，以及其性能投影数字的局限。
项目
lithos-ai/lithos-metal
lithos-metal: high-performance LLM inference kernels and serving for Apple silicon.
在 GitHub 查看 ↗- 星标
- ★ 284
- 复刻
- 24
- 语言
- Python
- 许可证
- Apache-2.0
- 最新版本
- v0.1.2
文章
1没有符合条件的动态。