Devotd Github
新着セキュリティ

cisco-ai-defense/project-quarry v0.1.0 — エージェント会話のルールエンジン

cisco-ai-defense/project-quarry は、エージェント会話のメッセージとツール利用の流れをルールで検査する Python ツールである。

リポジトリ情報cisco-ai-defense/project-quarry ↗

cisco-ai-defense/project-quarry は、エージェント会話のメッセージとツール利用の流れをルールで検査する Python ツールである。

GitHub の説明: Detection DSL and engine for AI agents

スター
★ 39
フォーク
3
言語
Python
ライセンス
Apache-2.0
最新リリース
0.1.0
原文を見る ↗GitHub で見る ↗

cisco-ai-defense/project-quarry は、エージェント会話の中から脅威や行動パターンを見つけるルールエンジンである。GitHub に公開されている Python プロジェクトで、ライセンスは Apache-2.0 を使う。最新リリースは 0.1.0 である。与えられた資料には、このリリースで変更された具体的な項目は個別に記録されていない。したがってここで確認できるのは、特定の機能が新しく追加されたことではなく、リポジトリが説明しているこのツールの目的と動作方法である。

このツールは、会話のメッセージ、ツールの呼び出しと結果、イベントの順序を、ユーザーが書いたルールで検査する。ルールは読み込みの段階で構文検査と検証を通り、通過したルールは記号有限状態オートマトンにコンパイルされて会話の流れに適用される。有限状態オートマトンは、決められた状態の間を移動しながら入力の順序を確認する方式である。コンパイルできないルールは読み込めない。テキストと正規表現、構造化されたフィールド、ツールが使われたかどうかを検査でき、複数ターンにわたる流れも表現できる。結果には証拠を含めることができ、コマンドラインで人が読む形式または JSON・CSV で出力する。入力サイズ、コンパイル時間、実行時間、モデル呼び出しに上限を設ける機能も説明されている。

ただし README は Project Quarry が alpha 段階であり、ルール構文が変わる可能性があるとしている。そのため、現在のルールと設定が以降のバージョンでもそのまま維持されるとは前提にしにくい。多段階の会話の流れを明示的なルールで点検する用途は明らかだが、構文が安定するまでは変更の可能性を考慮すべき初期段階のツールである。