meta-pytorch/captum 是一个处理 PyTorch 模型可解释性(interpretability)与理解(understanding)的库,侧重于解释模型为何给出某项预测。仓库中记录的最新版本是 v0.9.0。但所提供的记录中没有该版本的变更说明,因此无法确认新增或修复了哪些内容。
README 说明 Captum 通过 Integrated Gradients、TCAV、TracIn influence functions 等方法,帮助把握特征、训练样本与概念是如何对模型预测产生贡献的。它涵盖三个维度:输入的特征、学习样本与概念(concept)。贡献度指的是各要素在预测中参与程度这一概念。它还支持对抗攻击和最小输入扰动功能。
README 还提到,它有助于与既有算法进行基准测试,也能与使用 torchvision、torchtext 等领域专用库构建的模型轻松联动。领域专用库指的是处理面向特定领域构建的模型。该项目使用 Python 编写,并以 BSD-3-Clause 许可证发布。仓库创建于 2019 年 8 月 27 日,星标数为 5712。
不过公开的记录中没有性能数值或基准测试结果。动量分数仅记录为 0.0,新鲜度、技术与质量分数均为空白。解释算法的种类与许可条款可以确认,但能否在特定模型上得到有用的解释,仅凭这份记录难以判断。