Devotd Github

paddlepaddle/halops

paddlepaddle/halops は NVIDIA Blackwell SM100 を対象に、LLM 推論向けの注意力と行列積の演算パスを提供するライブラリである。

GitHub の説明: High-performance Accelerated LLM Operators

GitHub で見る ↗
スター
★ 23
フォーク
8
言語
Cuda
ライセンス
Apache-2.0

投稿

1