github.devotd.
新发现人工智能

meta-pytorch/captum v0.9.0 — PyTorch 模型可解释性库

meta-pytorch/captum 是一个用于解释 PyTorch 模型预测的可解释性库,记录中的最新发布版本为 v0.9.0。

仓库信息meta-pytorch/captum ↗

meta-pytorch/captum 是一个用于解释 PyTorch 模型预测的可解释性库,记录中的最新发布版本为 v0.9.0。

GitHub 项目说明: Model interpretability and understanding for PyTorch

星标
★ 5.7K
复刻
574
语言
Python
许可证
BSD-3-Clause
最新版本
v0.9.0
查看原始来源 ↗在 GitHub 查看 ↗

meta-pytorch/captum 是一个处理 PyTorch 模型可解释性(interpretability)与理解(understanding)的库,侧重于解释模型为何给出某项预测。仓库中记录的最新版本是 v0.9.0。但所提供的记录中没有该版本的变更说明,因此无法确认新增或修复了哪些内容。

README 说明 Captum 通过 Integrated Gradients、TCAV、TracIn influence functions 等方法,帮助把握特征、训练样本与概念是如何对模型预测产生贡献的。它涵盖三个维度:输入的特征、学习样本与概念(concept)。贡献度指的是各要素在预测中参与程度这一概念。它还支持对抗攻击和最小输入扰动功能。

README 还提到,它有助于与既有算法进行基准测试,也能与使用 torchvision、torchtext 等领域专用库构建的模型轻松联动。领域专用库指的是处理面向特定领域构建的模型。该项目使用 Python 编写,并以 BSD-3-Clause 许可证发布。仓库创建于 2019 年 8 月 27 日,星标数为 5712。

不过公开的记录中没有性能数值或基准测试结果。动量分数仅记录为 0.0,新鲜度、技术与质量分数均为空白。解释算法的种类与许可条款可以确认,但能否在特定模型上得到有用的解释,仅凭这份记录难以判断。