AIセキュリティ
エージェント、スキル、MCP、モデルの防御を含むAIセキュリティ・安全性製品。安全性測定のベンチマークやハーネスはai-safety-evaluation、攻撃生成ツールはai-red-teaming、その他のスキルパッケージ保護はskill-security-and-updates、その他のMCP専用防御はmcp-security、残る強制的な防御はruntime-and-endpoint-securityに分類する。汎用能力評価と互換性目的のリバースエンジニアリングは除く。
詳細分野
| プロジェクト | 用途 | スター | 言語 | ライセンス | 最新リリース |
|---|---|---|---|---|---|
| nvidia/nemoclaw | Hermes などのコーディングエージェントを OpenShell サンドボックスと管理型推論でより安全に実行する。 | ★ 22.8K | TypeScript | Apache-2.0 | — |
| jiwoochris/artex-global | ARTEX は、AI を活用して自律的に侵入テストを行うセキュリティフレームワークです。 | ★ 1.6K | Go | AGPL-3.0 | v0.3.15-global.1 |
| archestra-ai/openappa | エージェント実行を安全に制御する決定的なガードレールを提供します。 | ★ 1.6K | Rust | MIT | v0.35.1 |
| perplexityai/space | プラガブルなランタイムでエージェントとユーザーコードを隔離実行するサンドボックス基盤です。 | ★ 1.5K | Rust | Apache-2.0 | — |
| pipelab-org/pipelock | HTTP、MCP、A2A、WebSocket通信をスキャンし、情報漏えい、SSRF、プロンプト注入を防ぐエージェントファイアウォールです。 | ★ 937 | Go | Apache-2.0 | v3.7.0 |
| ashishsinha1602/schemagate | 行レベルセキュリティを考慮したスキーマの刈り込みで、SQL エージェントを許可されたテーブルに限定します。 | ★ 104 | Python | Apache-2.0 | v1.6.0 |
| submilli/submilli-runtime | エージェント生成TypeScriptをWebAssemblyで隔離実行し、外部呼び出しごとに宣言された意味権限を強制する。 | ★ 28 | Rust | Apache-2.0 | v0.4.1 |
| invarislabs/invaris-agentsec | CIでエージェントのプロンプトインジェクション、ツール悪用、メモリ汚染、MCPリスクを対抗テストします。 | ★ 17 | Python | Apache-2.0 | v0.9.0 |