pytorch/fbgemm은 딥러닝 애플리케이션에 쓰이는 최적화 커널을 제공하는 저장소다. 최신 릴리스는 v1.8.0이지만, 제공된 자료에는 이 버전에서 바뀐 내용이 나와 있지 않다. 저장소의 주력 언어는 C++이다. FBGEMM은 서버 측 추론용 저정밀 행렬 곱셈과 컨볼루션을 다루며, 양자화 GEMM과 융합 연산도 범위에 포함된다.
저장소는 FBGEMM, FBGEMM_GPU, FBGEMM_GPU GenAI의 세 패키지로 구성된다. FBGEMM은 서버 추론용 행렬 곱셈 및 컨볼루션 라이브러리다. FBGEMM_GPU는 추천 시스템의 학습과 추론을 위한 PyTorch GPU 연산자 라이브러리이고, FBGEMM_GPU GenAI는 생성형 AI 애플리케이션을 위한 PyTorch GPU 연산자 라이브러리다. 저정밀 연산은 표현에 쓰는 정밀도를 낮춘 계산을 뜻한다. GenAI의 사례로는 FP8 row-wise 양자화와 집단 통신이 제시돼 있다. 따라서 이 저장소의 범위는 하나의 추론 경로에 한정되지 않고, 서버 측 행렬 연산과 추천 시스템·생성형 AI용 GPU 연산자를 함께 포함한다.
다만 제공된 자료만으로는 v1.8.0의 변경 내용이나 각 연산의 성능 수치를 확인할 수 없다. 라이선스 항목도 NOASSERTION으로, 구체적인 라이선스 이름이 확인되지 않는다. 패키지의 범위는 드러나지만, 성능이나 이용 조건을 판단하려면 해당 정보가 별도로 확인돼야 한다.