nvidia/tensorrt는 NVIDIA GPU에서 딥러닝 추론을 고성능으로 돌리기 위한 SDK인 TensorRT의 오픈소스 구성 요소를 담는 저장소다. 최신 릴리스는 v11.4다. 공개된 구성에는 TensorRT 플러그인과 ONNX 파서(ONNX 모델 파일을 읽어들이는 구성 요소)의 소스, 그리고 플랫폼 사용법과 기능을 보여 주는 샘플 애플리케이션이 들어 있다. README는 이 OSS 구성 요소가 TensorRT GA(일반 공개) 릴리스의 일부이며 일부 확장과 버그 수정을 포함한다고 밝힌다. 공개된 것은 SDK 전체가 아니라 이 구성 요소 쪽이다.
공개된 부분만으로도 CUDA GPU에 특화된 추론 엔진 구성이 어떤 구조인지 확인할 수 있다. 이 엔진은 모델 최적화, 플러그인, 런타임 경로로 이어지는 구성이고, 구현 언어는 C++이며 라이선스는 Apache-2.0이다. 저장소는 2019년 5월 2일 만들어졌고 별점은 13409개다. NVIDIA GPU 위의 추론 파이프라인을 직접 다루는 쪽이라면, 플러그인과 파서 소스가 코드로 남아 있어 확인할 출발점이 된다.
다만 v11.4에서 무엇이 바뀌었는지 항목별로 드러나는 자료는 없다. README는 공개 범위와 포함된 확장과 버그 수정만 알려 줄 뿐, 성능을 비교할 벤치마크나 측정 수치는 제시하지 않는다. 다른 저장소와 비교한 점수도 없어, 이 버전이 실제 추론 성능을 얼마나 움직였는지는 이 저장소만으로는 판단하기 어렵다. TensorRT를 이미 다루는 쪽의 참조 자료로는 볼 만하지만, 새로 확인할 대상을 찾는 쪽이라면 변경 내역을 따로 볼 수 없다는 한계를 먼저 알아 두어야 한다.