AI 보안
에이전트, 스킬, MCP 및 모델 방어를 포함한 AI 보안·안전 제품입니다. 안전성 측정 벤치마크·하네스는 ai-safety-evaluation, 공격 생성 도구는 ai-red-teaming, 그 밖의 스킬 패키지 보안은 skill-security-and-updates, MCP 전용 방어는 mcp-security, 나머지 통제는 runtime-and-endpoint-security로 분류합니다. 일반 능력 평가와 호환성 중심 리버스 엔지니어링은 제외합니다.
세부 분야
| 프로젝트 | 하는 일 | 스타 | 언어 | 라이선스 | 최근 릴리스 |
|---|---|---|---|---|---|
| nvidia/nemoclaw | Hermes 등 코딩 에이전트를 OpenShell 샌드박스와 관리형 추론으로 더 안전하게 실행한다. | ★ 22.8K | TypeScript | Apache-2.0 | — |
| jiwoochris/artex-global | ARTEX는 AI를 활용해 자율 침투 테스트를 수행하는 보안 프레임워크입니다. | ★ 1.6K | Go | AGPL-3.0 | v0.3.15-global.1 |
| archestra-ai/openappa | 에이전트 실행을 안전하게 제어하는 결정적 가드레일을 제공합니다. | ★ 1.6K | Rust | MIT | v0.35.1 |
| perplexityai/space | 플러그 가능한 런타임으로 에이전트와 사용자 코드를 격리 실행하는 샌드박스 플랫폼입니다. | ★ 1.5K | Rust | Apache-2.0 | — |
| pipelab-org/pipelock | HTTP·MCP·A2A·WebSocket 트래픽을 검사해 유출과 프롬프트 인젝션을 차단하는 에이전트 방화벽입니다. | ★ 937 | Go | Apache-2.0 | v3.7.0 |
| ashishsinha1602/schemagate | 권한과 행 수준 보안에 따라 SQL 에이전트의 테이블 접근을 제한해 비인가 데이터를 차단합니다. | ★ 104 | Python | Apache-2.0 | v1.6.0 |
| submilli/submilli-runtime | 에이전트 생성 TypeScript를 WebAssembly에서 격리 실행하고 외부 호출마다 선언된 의미 권한을 강제한다. | ★ 28 | Rust | Apache-2.0 | v0.4.1 |
| invarislabs/invaris-agentsec | 에이전트의 프롬프트 인젝션, 도구 오용, 메모리 오염과 MCP 위험을 CI에서 적대적으로 테스트합니다. | ★ 17 | Python | Apache-2.0 | v0.9.0 |