Devotd Github
新发现推理与服务

facebookresearch/xformers v0.0.35 — 用于 Transformer 研究的运算工具箱

facebookresearch/xformers 是一个为 Transformer 研究提供优化构建模块和 CUDA 内核的工具箱。

仓库信息facebookresearch/xformers ↗

facebookresearch/xformers 是一个为 Transformer 研究提供优化构建模块和 CUDA 内核的工具箱。

GitHub 项目说明: Hackable and optimized Transformers building blocks, supporting a composable construction.

星标
★ 10.6K
复刻
798
语言
Python
许可证
NOASSERTION
最新版本
v0.0.35
查看原始来源 ↗在 GitHub 查看 ↗

facebookresearch/xformers 的最新公开版本是 v0.0.35。该仓库是一个 Python 工具箱,汇集了可用于 Transformer 研究的优化构建模块。所提供的记录中没有本次版本的变更信息,因此无法确认 v0.0.35 新增或修复了什么。

xFormers 提供独立且可由用户定制的组件,可在 vision、NLP 等领域组合使用。它专注于利用尚未被 PyTorch 等主流库收录的研究组件。它自带 CUDA 内核,并会按需将算子分派给其他库。提供的内容包括内存高效的 exact attention 和 sparse attention,以及将多个算子合并的 fused 运算。因此,它与其说是一个完整成品模型,不如说更像是研究人员用来搭建并试验 Transformer 算子的零件集合。

可确认的范围仅限于仓库说明和 README 中列出的功能。所提供的材料中没有 v0.0.35 的具体变更记录或性能对比,因此无法判断本次发布相比先前版本改进在哪里。许可证一项也标为 NOASSERTION,仅凭这份记录无法确定使用条件。因此,在缺少其他依据的情况下,很难对本次发布的新意或使用条件下定论。