invarislabs/invaris-agentsec 是一个 Python 测试框架,用于检查安全策略在 AI 代理工作流的整个执行过程中是否得以保持。该 GitHub 仓库的最新版本是 v0.9.0,采用 Apache-2.0 许可证。框架涵盖对抗性场景,包括提示注入、工具滥用、记忆投毒和 MCP 扫描。
该工具会追踪攻击内容是否真正传达到代理。未传达的执行不视为通过,而被判为无法判定;判断是否成功时,只统计内容传达之后发生的工具调用。检查项包括未授权的工具调用、通过工具输出与 MCP 服务器进行的投毒、过多的工具调用、令牌和成本,以及无限循环。它还处理危险的调用组合、身份与会话混淆、子代理权限滥用,以及代理否认某个动作或未报告自己已执行操作的情况。它还提供可用于 CI 的回归测试和报告。
README 说明场景会引用命令、策略文件,以及多代理、邮件和浏览器包文档,检查清单与文档逐项对应。但关于风险场景和基准测试的数字是 README 的自述数据。因此检查设计与范围虽具体,仅凭这一记录仍难以独立确认其安全效果。