github.devotd.
新发现安全

invarislabs/invaris-agentsec v0.9.0 — 代理安全测试

invarislabs/invaris-agentsec v0.9.0 是一个 Python 框架,用对抗性场景检验 AI 代理工作流中的安全策略。

仓库信息invarislabs/invaris-agentsec ↗

Adversarial security testing for AI agents — prompt injection, tool misuse, memory poisoning, and MCP scanning, with CI-ready regression testing and reports.

星标
★ 17
复刻
2
语言
Python
许可证
Apache-2.0
最新版本
v0.9.0
查看原始来源 ↗在 GitHub 查看 ↗

invarislabs/invaris-agentsec 是一个 Python 测试框架,用于检查安全策略在 AI 代理工作流的整个执行过程中是否得以保持。该 GitHub 仓库的最新版本是 v0.9.0,采用 Apache-2.0 许可证。框架涵盖对抗性场景,包括提示注入、工具滥用、记忆投毒和 MCP 扫描。

该工具会追踪攻击内容是否真正传达到代理。未传达的执行不视为通过,而被判为无法判定;判断是否成功时,只统计内容传达之后发生的工具调用。检查项包括未授权的工具调用、通过工具输出与 MCP 服务器进行的投毒、过多的工具调用、令牌和成本,以及无限循环。它还处理危险的调用组合、身份与会话混淆、子代理权限滥用,以及代理否认某个动作或未报告自己已执行操作的情况。它还提供可用于 CI 的回归测试和报告。

README 说明场景会引用命令、策略文件,以及多代理、邮件和浏览器包文档,检查清单与文档逐项对应。但关于风险场景和基准测试的数字是 README 的自述数据。因此检查设计与范围虽具体,仅凭这一记录仍难以独立确认其安全效果。