facebookresearch/xformers の最新公開リリースは v0.0.35 です。このリポジトリは、Transformer 研究に使える最適化されたビルディングブロックを集めた Python ツールボックスです。提供された記録には今回のバージョンの変更点が記載されていないため、v0.0.35 で何が追加・修正されたかは確認できません。
xFormers は、vision や NLP などで組み合わせて使える独立でユーザー定義可能なコンポーネントを提供します。PyTorch のような主要ライブラリにはまだ取り込まれていない研究用コンポーネントを活用することに重点を置いています。独自の CUDA カーネルを備えており、必要に応じて他のライブラリへ演算をディスパッチします。提供されるものには、メモリ効率のよい exact attention と sparse attention、複数の演算を一つにまとめた fused 演算が含まれます。したがって、単一の完成済みモデルというより、研究者が Transformer 演算を組み立てて実験するための部品集に近い存在です。
確認できる範囲は、リポジトリの説明と README に記載された機能までです。提供された資料には v0.0.35 の具体的な変更記録も性能比較もなく、今回のリリースが以前のバージョンより何を改善したかは判断できません。ライセンス項目も NOASSERTION と表示されているため、この記録だけで利用条件を確定することはできません。したがって、別の根拠なしに、このリリースの新しさや利用条件を断定するのは難しいです。