github.devotd.
新发现安全

rogue-security/rogue v0.6.4 — 智能体策略遵循与红队评估

rogue-security/rogue 是一个评估 AI 智能体工作策略遵循情况与对抗性攻击应对能力的 Python 工具,公开的最新版本是 v0.6.4。

仓库信息rogue-security/rogue ↗

rogue-security/rogue 是一个评估 AI 智能体工作策略遵循情况与对抗性攻击应对能力的 Python 工具,公开的最新版本是 v0.6.4。

GitHub 项目说明: AI Agent Evaluator & Red Team Platform

星标
★ 1.1K
复刻
164
语言
Python
许可证
NOASSERTION
最新版本
v0.6.4
查看原始来源 ↗在 GitHub 查看 ↗

rogue-security/rogue 是一个基于 Python 的工具,用于检查 AI 智能体是否遵守工作策略、在既定场景中是否做出预期行为,并模拟对抗性攻击以发现漏洞。它同时尝试正常交互与对抗性交互,以确认策略违规和智能体弱点。该仓库自称 AI 智能体评估器与红队平台,公开的最新版本是 v0.6.4。

README 将 Rogue 分为两个方面来介绍。Automatic Evaluation 依据场景和预期结果验证智能体,Red Teaming 用多种攻击手法寻找漏洞,同时提供基于 CVSS 的风险评分与合规信息。CVSS(通用漏洞评分体系)是按等级评定漏洞风险度量的标准基准。可通过 A2A、MCP 和 Python 方式与智能体集成,并提供可用于 TUI 和 CI/CD 流水线的 CLI。该仓库创建于 2025 年 6 月 5 日,星标数为 1069 个。

不过,v0.6.4 的变更记录在给出的来源中缺失,因此无法确认新增了哪些内容。许可证也仅标注为 NOASSERTION,利用条件无法确认。也没有给出比较检出率或误报率的数值。Rogue 更接近一款以既定策略和场景为基准重新审视当前行为并评定风险等级的评估工具。仅凭公开信息,难以判断本次版本的变化和检出性能。