AI 安全
AI 安全与防护产品，包括智能体、技能、MCP 和模型防御。安全测量基准及框架归入 ai-safety-evaluation；攻击生成工具归入 ai-red-teaming；其他技能包安全归入 skill-security-and-updates；其他 MCP 专用防御归入 mcp-security；其余防护执行归入 runtime-and-endpoint-security。不包括通用能力评估和以兼容性为目的的逆向工程。
子领域
| 项目 | 用途 | Star | 语言 | 许可证 | 最新版本 |
|---|---|---|---|---|---|
| nvidia/nemoclaw | 通过 OpenShell 沙箱和托管推理，更安全地运行 Hermes 等编码智能体。 | ★ 22.8K | TypeScript | Apache-2.0 | — |
| jiwoochris/artex-global | ARTEX 是一个利用 AI 自主执行渗透测试的安全框架。 | ★ 1.6K | Go | AGPL-3.0 | v0.3.15-global.1 |
| archestra-ai/openappa | 为智能体执行提供确定性的安全防护栏。 | ★ 1.6K | Rust | MIT | v0.35.1 |
| perplexityai/space | 通过可插拔运行时隔离运行智能体和用户代码的沙盒平台。 | ★ 1.5K | Rust | Apache-2.0 | — |
| pipelab-org/pipelock | 扫描 HTTP、MCP、A2A 和 WebSocket 流量以阻止数据外泄、SSRF 和提示注入的智能体防火墙。 | ★ 937 | Go | Apache-2.0 | v3.7.0 |
| ashishsinha1602/schemagate | 通过感知行级安全性的模式裁剪，将 SQL 智能体限制在获授权的表内，阻止访问未授权数据。 | ★ 104 | Python | Apache-2.0 | v1.6.0 |
| submilli/submilli-runtime | 在 WebAssembly 中隔离执行代理生成的 TypeScript，并对每次外部调用强制执行声明的语义权限。 | ★ 28 | Rust | Apache-2.0 | v0.4.1 |
| invarislabs/invaris-agentsec | 在 CI 中对智能体进行提示注入、工具滥用、记忆投毒和 MCP 风险的对抗测试。 | ★ 17 | Python | Apache-2.0 | v0.9.0 |