github.devotd.
新发现推理与服务

triton-lang/triton — 用于自定义深度学习基础算子的语言与编译器

triton-lang/triton 是 Triton 的开发仓库。Triton 是一门用于高效编写自定义深度学习基础算子的语言,同时也是编译器;目前公开的最新发布版本是 v3.8.0。

仓库信息triton-lang/triton ↗

triton-lang/triton 是 Triton 的开发仓库。Triton 是一门用于高效编写自定义深度学习基础算子的语言,同时也是编译器;目前公开的最新发布版本是 v3.8.0。

GitHub 项目说明: Development repository for the Triton language and compiler

星标
★ 20.4K
复刻
3.3K
语言
MLIR
许可证
MIT
最新版本
v3.8.0
查看原始来源 ↗在 GitHub 查看 ↗

triton-lang/triton 是 Triton 的开发仓库。Triton 是一门用于高效编写自定义深度学习基础算子的语言,同时也是编译器。正如仓库描述所说,Triton 的语言与编译器在同一处共同开发。项目始于 2014 年 8 月 30 日,公开的最新发布标签为 v3.8.0。

README 表示,Triton 的目标是提供一个开源环境:比直接编写 CUDA 代码更高效,也比现有 DSL(领域专用语言)更灵活。也就是说,它的前提是用户直接用代码写出所需的运算,而不是调用既定的高层算子。实现语言是 MLIR,许可证是 MIT。官方文档包含安装方法与教程,README 还说明了从源码构建和运行测试的方法。Star 数为 20424。

不过,README 并未给出与 CUDA 对比的性能数据。v3.8.0 具体改动了什么,也无法从公开信息中确认。20424 个 star 只是认知度信号,不能替代性能表现或实际采用范围。各项评估中只有动量一项给出评分 4.2,新鲜度、技术、质量的分数均为空。也就是说,「可以写出更快的代码」这一说法停留在 README 的目标描述层面。对于已经有自定义运算目标的团队,值得一看,但在缺乏性能依据的情况下还不宜作为默认选择。