paddlepaddle/halops は NVIDIA Blackwell(SM100) を対象とした LLM 推論オペレータライブラリである。ERNIE チームが公開したリポジトリで、GQA attention と FP8・FP4 GEMM、MegaKernel sparse MLA のパスを取り扱う。リポジトリには最新リリースが登録されていない。言語は Cuda、ライセンスは Apache-2.0 と表示されている。
このプロジェクトは、モデル推論で使われる注意力と行列積の演算を Blackwell GPU 向けに最適化することに重点を置いている。CUTLASS と CuTe を基盤に tcgen05・TMEM・TMA を直接活用し、疎な MLA パスも含む。リポジトリにはオペレータ比較用のランナーと基準設定、インストールおよびビルド手順も付属している。したがって、単一のオペレータのみを示すリポジトリというより、複数の推論パスと比較用ツールをまとめた構成である。公開された説明では、DeepGEMM と FlashInfer を比較対象として性能を示している。
ただし、リポジトリで公開されている性能比較は別途再現されていないため、提示された結果のみから他実装との性能差を確定することは難しい。確認できるのは、Blackwell 専用の演算パスとそれを比較するためのツールが公開されているという点である。実際の適用判断では、公開された比較結果とは別に、対象環境で再現できるかどうかを検討する必要がある。