paddlepaddle/halops는 NVIDIA Blackwell(SM100)을 겨냥한 LLM 추론 연산자 라이브러리다. ERNIE 팀이 공개한 저장소로, GQA attention과 FP8·FP4 GEMM, MegaKernel sparse MLA 경로를 다룬다. 저장소에는 최신 릴리스가 등록돼 있지 않다. 언어는 Cuda로 표시돼 있고 라이선스는 Apache-2.0이다.
이 프로젝트는 모델 추론에 쓰이는 주의집중과 행렬곱 연산을 Blackwell GPU에 맞춰 최적화하는 데 초점을 둔다. CUTLASS와 CuTe를 기반으로 tcgen05·TMEM·TMA를 직접 활용하며, 희소 MLA 경로도 포함한다. 저장소에는 연산자 비교를 위한 실행기와 기준 설정, 설치 및 구축 안내가 함께 있다. 따라서 단일 연산만 제시하는 저장소라기보다 여러 추론 경로와 비교용 도구를 한데 둔 구성이다. 공개된 설명은 DeepGEMM과 FlashInfer를 비교 대상으로 삼아 성능을 제시한다.
다만 저장소의 공개 성능 비교는 별도로 재현되지 않았으므로, 제시된 결과만으로 다른 구현과의 성능 차이를 확정하기는 어렵다. 확인되는 범위는 Blackwell 전용 연산 경로와 이를 비교하기 위한 도구가 공개돼 있다는 점이다. 실제 적용 판단에서는 공개 비교 결과와 별개로 대상 환경에서의 재현 여부를 살펴야 한다.