meta-pytorch/captum은 PyTorch 모델의 해석(interpretability)과 이해(understanding)를 다루는 라이브러리다. 모델이 왜 그런 예측을 냈는지 설명하는 쪽이다. 저장소에 기록된 최신 릴리스는 v0.9.0이다. 다만 제공된 기록에는 이 버전의 변경 내역이 없어, 무엇이 추가되거나 고쳐졌는지는 확인할 수 없다.
README는 Captum이 Integrated Gradients, TCAV, TracIn influence functions 등을 통해 특징·훈련 예시·개념이 모델 예측에 기여하는 방식을 파악하도록 돕는다고 밝힌다. 입력의 특징, 학습 예시, 개념(concept) 세 축을 다룬다. 기여도는 각 요소가 예측에 얼마나 관여했는지를 나타내는 개념이다. 적대적 공격과 최소 입력 섭동 기능도 지원한다.
README는 또 기존 알고리즘과의 벤치마킹을 돕고, torchvision이나 torchtext 같은 도메인별 라이브러리로 만든 모델과도 쉽게 연동된다고 밝힌다. 도메인별 라이브러리는 특정 분야에 맞춰진 모델을 다루는 쪽을 뜻한다. Python으로 작성됐고 BSD-3-Clause 라이선스로 배포된다. 저장소는 2019년 8월 27일 만들어졌고 별 개수는 5712개다.
다만 공개된 기록에는 성능 수치나 벤치마크 결과가 없다. 모멘텀 점수는 0.0으로만 기록돼 있고 신선성·기술·품질 점수는 비어 있다. 해석 알고리즘의 종류와 라이선스 조건은 확인할 수 있어도, 특정 모델에서 유용한 해석이 나오는지는 이 기록으로 판단하기 어렵다.