github.devotd.
新着AI

meta-pytorch/captum v0.9.0 — PyTorchモデル向け解釈ライブラリ

meta-pytorch/captumはPyTorchモデルの予測を説明する解釈ライブラリで、記録上の最新リリースはv0.9.0です。

リポジトリ情報meta-pytorch/captum ↗

meta-pytorch/captumはPyTorchモデルの予測を説明する解釈ライブラリで、記録上の最新リリースはv0.9.0です。

GitHub の説明: Model interpretability and understanding for PyTorch

スター
★ 5.7K
フォーク
574
言語
Python
ライセンス
BSD-3-Clause
最新リリース
v0.9.0
原文を見る ↗GitHub で見る ↗

meta-pytorch/captumは、PyTorchモデルの解釈可能性(interpretability)と理解(understanding)を扱うライブラリです。モデルがなぜその予測を出したのかを説明する側にあります。リポジトリに記録された最新リリースはv0.9.0です。ただし提供された記録にはこのバージョンの変更内容が含まれていないため、何が追加・修正されたかは確認できません。

READMEは、CaptumがIntegrated Gradients、TCAV、TracIn influence functionsなどを通じて、特徴・訓練例・概念がモデル予測にどう寄与しているかを把握できるようにしていると述べています。入力の特徴、学習例、概念(concept)の3つの軸を扱います。寄与度は、各要素が予測にどの程度関与していたかを示す考え方です。敵対攻撃や最小入力摂動にも対応しています。

READMEはまた、既存のアルゴリズムとのベンチマークを支援し、torchvisionやtorchtextのような分野別ライブラリで構築したモデルとも簡単に連携できるとも述べています。分野別ライブラリとは、特定の分野に合わせたモデルを扱うものを指します。Pythonで書かれ、BSD-3-Clauseライセンスで配布されています。リポジトリは2019年8月27日に作成され、スター数は5712です。

ただし公開されている記録には、性能指標やベンチマーク結果は含まれていません。モメンタムスコアは0.0のみが記録されており、新鮮度・技術・品質スコアは空欄です。解釈アルゴリズムの種類とライセンス条件は確認できますが、特定のモデルで有用な解釈が得られるかどうかは、この記録からは判断しにくいです。