Devotd Github
新发现推理与服务

plotarmordev/drama-tensorfold — 面向 DGX Spark 的 Drama 3 TTS 引擎

这是一个仓库,包含在 DGX Spark(GB10) 上使用 TensorFold 原生 Zig/CUDA 引擎运行 Fish Audio Drama 3 的补丁配方与对比资料。

仓库信息plotarmordev/drama-tensorfold ↗

这是一个仓库,包含在 DGX Spark(GB10) 上使用 TensorFold 原生 Zig/CUDA 引擎运行 Fish Audio Drama 3 的补丁配方与对比资料。

GitHub 项目说明: Fish Audio Drama 3 text-to-speech on the TensorFold native CUDA engine for DGX Spark (GB10): recipe, engine patches, benchmarks. Built with Fish Audio.

星标
★ 120
复刻
7
语言
Python
许可证
Apache-2.0
查看原始来源 ↗在 GitHub 查看 ↗

plotarmordev/drama-tensorfold 是一个仓库,公开了在 DGX Spark(GB10) 上使用 TensorFold 原生 Zig/CUDA 引擎运行 Fish Audio Drama 3 语音合成的配方和引擎补丁。没有公开的发布版本。它会构建一个提供 OpenAI 风格 `/v1/audio/speech` 路径的本地语音服务器,支持完整响应和流式响应。使用 Python 编写,遵循 Apache-2.0 许可证。

仓库中包含基准测试和精度检查资料,并公开了与 sglang-omni 参考实现的对比结果。据仓库说明,14 个提速补丁使 46 条响应保持字节级一致。首音频延迟为 0.141 秒,低于参考实现的 0.521 秒,实时因子分别为 0.634 和 0.939。这份资料在考察 GB10 上的原生 CUDA TTS 路径时可供参考。

不过当前状态是 'testing, not qualified',尚未满足参考精度标准。所列数值是补丁 0040 之后的结果,该补丁为精度让渡了约 5% 的速度。比较也仅限于单一主机和单一模型,无法支撑其他环境下的性能或输出质量。因此,更恰当的做法是把该仓库看作在受限条件下评估中的优化配方,而不是已经过验证的部署路径。