github.devotd.
新着セキュリティ

rogue-security/rogue v0.6.4 — エージェントのポリシー遵守とレッドチーム評価

rogue-security/rogue は AI エージェントの業務ポリシー遵守と敵対的攻撃への対応を評価する Python ツールで、公開されている最新リリースは v0.6.4 だ。

リポジトリ情報rogue-security/rogue ↗

rogue-security/rogue は AI エージェントの業務ポリシー遵守と敵対的攻撃への対応を評価する Python ツールで、公開されている最新リリースは v0.6.4 だ。

GitHub の説明: AI Agent Evaluator & Red Team Platform

スター
★ 1.1K
フォーク
164
言語
Python
ライセンス
NOASSERTION
最新リリース
v0.6.4
原文を見る ↗GitHub で見る ↗

rogue-security/rogue は、AI エージェントが業務ポリシーを守는지、決められたシナリオで期待どおりの行動をするかを点検し、敵対的攻撃を模して脆弱性を見つける Python ベースのツールである。通常の対話と敵対的な対話を並行して試し、ポリシー違反やエージェントの弱点を確認する。リポジトリは自らを AI エージェント評価器かつレッドチームプラットフォームと位置づけており、公開されている最新リリースは v0.6.4 だ。

README は Rogue を二つの側面に分けて説明している。Automatic Evaluation はシナリオと期待結果に基づいてエージェントを検証し、Red Teaming は複数の攻撃手法で脆弱性を見つけると同時に、CVSS ベースの危険度スコアとコンプライアンス情報を提供する。CVSS(Common Vulnerability Scoring System)は脆弱性の危険度を等級で定める標準基準である。A2A、MCP、Python のいずれの手段でもエージェントと連携でき、TUI や CI/CD パイプラインで使える CLI も提供する。リポジトリは 2025 年 6 月 5 日に作成され、スター数は 1069 個だ。

ただし v0.6.4 の変更履歴は提示された出典にないため、何が追加されたかは確認できない。ライセンスも NOASSERTION としか示されておらず、利用条件は確認できない。検出率や誤検知率を比較した数値も示されていない。Rogue は決められたポリシーとシナリオを基準に現在の行動を測り直し、危険度を等級でつける評価ツールに近い。公開情報のみでは、今回のバージョンの変化や検出性能を判断するのは難しい。