Devotd Github
새 소식보안

cisco-ai-defense/project-quarry v0.1.0 — 에이전트 대화 규칙 엔진

cisco-ai-defense/project-quarry는 에이전트 대화의 메시지와 도구 사용 흐름을 규칙으로 검사하는 파이썬 도구다.

저장소 정보cisco-ai-defense/project-quarry ↗

cisco-ai-defense/project-quarry는 에이전트 대화의 메시지와 도구 사용 흐름을 규칙으로 검사하는 파이썬 도구다.

GitHub 설명: Detection DSL and engine for AI agents

스타
★ 39
포크
3
언어
Python
라이선스
Apache-2.0
최신 릴리스
0.1.0
원문 보기 ↗GitHub에서 보기 ↗

cisco-ai-defense/project-quarry는 에이전트 대화에서 위협과 행동 패턴을 찾는 규칙 엔진이다. GitHub 저장소에 공개된 파이썬 프로젝트이며 Apache-2.0 라이선스를 사용한다. 최신 릴리스는 0.1.0이다. 제공된 정보에는 이 릴리스에서 달라진 구체적인 항목이 따로 기록되어 있지 않다. 따라서 여기서 확인할 수 있는 내용은 특정 기능의 신규 추가가 아니라, 저장소가 설명하는 도구의 목적과 동작 방식이다.

이 도구는 대화의 메시지, 도구 호출과 결과, 이벤트 순서를 사용자가 작성한 규칙으로 검사한다. 규칙은 불러오는 단계에서 문법 검사와 검증을 거치며, 통과한 규칙은 기호 유한 상태 오토마톤으로 컴파일되어 대화 흐름에 적용된다. 유한 상태 오토마톤은 정해진 상태 사이를 이동하며 입력의 순서를 확인하는 방식이다. 컴파일되지 않는 규칙은 불러오지 못한다. 텍스트와 정규식, 구조화된 필드, 도구 사용 여부를 검사하고 여러 차례에 걸친 흐름도 표현할 수 있다. 결과에는 증빙을 포함할 수 있으며, 명령줄에서 사람이 읽는 형식이나 JSON·CSV로 출력한다. 입력 크기와 컴파일, 실행 시간, 모델 호출에 한도를 두는 기능도 설명되어 있다.

다만 README는 Project Quarry가 알파 단계이며 규칙 문법이 바뀔 수 있다고 밝힌다. 그러므로 현재의 규칙과 설정이 이후 버전에서도 그대로 유지된다고 전제하기는 어렵다. 여러 단계의 대화 흐름을 명시적인 규칙으로 점검하는 용도는 분명하지만, 문법이 안정되기 전까지는 변경 가능성을 고려해야 하는 초기 도구다.