github.devotd.
새 소식AI 에이전트

mcpware/intentprobe architecture-v0.1.2 — 탐침 공유 구조 연구

mcpware/intentprobe는 고정된 로컬 언어 모델의 은닉 상태를 여러 작업별 탐침이 공유하는 구조를 연구하는 Python 저장소다.

저장소 정보mcpware/intentprobe ↗

mcpware/intentprobe는 고정된 로컬 언어 모델의 은닉 상태를 여러 작업별 탐침이 공유하는 구조를 연구하는 Python 저장소다.

GitHub 설명: CPU activation probes for AI-agent guardrails and classification. One frozen local model pass, many independent heads. Open models, code and reproducible benchmarks.

스타
★ 9
포크
0
언어
Python
라이선스
Apache-2.0
최신 릴리스
architecture-v0.1.2
원문 보기 ↗GitHub에서 보기 ↗

mcpware/intentprobe의 최신 릴리스는 architecture-v0.1.2다. 이 Python 연구 저장소는 AI 에이전트의 분류와 가드레일을 위해, 한 번 고정해 실행한 로컬 언어 모델의 은닉 상태를 여러 작업별 탐침이 함께 읽는 구조를 다룬다. 탐침은 모델 실행을 반복하지 않고 각기 다른 탐지 작업을 맡는다. 저장소는 Apache-2.0 라이선스이며 공개 모델과 코드, 재현 가능한 벤치마크를 제공한다고 설명한다.

이 구조에서는 탐지 결과와 정책 판단, 실제 실행 권한이 분리된다. 따라서 탐침은 입력에서 무엇을 감지했는지를 내고, 그 결과에 따른 정책 결정이나 실행은 별도 계층이 맡는다. 각 소형 탐침은 서로 독립적으로 학습하고 버전을 관리한다. 자료에는 사용자 승인 여부를 분류하는 탐침에 관한 설명이 있고, 공개 스캐너와 단일 탐침뿐 아니라 여러 탐침을 잇는 실행 경로, 실험 기록, 재현 자료와 테스트도 포함된다. 이는 하나의 분류기를 완성품으로 제시하기보다 탐지기를 나눠 구성하는 방식을 살펴보는 연구 도구에 가깝다.

다만 README의 성능 비교는 연구 측정치이므로 일반적인 평가 순위나 제품 수준의 성능으로 읽을 수 없다. 재현 자료와 테스트는 구조를 검토할 단서를 주지만, 성능 비교만으로 실제 에이전트 환경에서의 효과나 배포 적합성이 확인되는 것은 아니다. 따라서 이 저장소의 근거는 탐침 공유 구조와 실험 자료의 범위에 한정해 보는 편이 타당하다.