github.devotd.

nvidia/flare-local-inference

一个在 NVIDIA 图形设备上直接运行模型的本地推理服务器仓库,其 Python 准备阶段与 Rust 服务运行时相互分离。

在 GitHub 查看 ↗
星标
★ 139
复刻
17
语言
Python
许可证
Apache-2.0

文章

1