github.devotd.
新着AIエージェント

mcpware/intentprobe architecture-v0.1.2 — プローブ共有構造の研究

mcpware/intentprobe は、固定したローカル言語モデルの隠れ状態を複数のタスク別プローブが共有する構造を研究する Python リポジトリである。

リポジトリ情報mcpware/intentprobe ↗

mcpware/intentprobe は、固定したローカル言語モデルの隠れ状態を複数のタスク別プローブが共有する構造を研究する Python リポジトリである。

GitHub の説明: CPU activation probes for AI-agent guardrails and classification. One frozen local model pass, many independent heads. Open models, code and reproducible benchmarks.

スター
★ 9
フォーク
0
言語
Python
ライセンス
Apache-2.0
最新リリース
architecture-v0.1.2
原文を見る ↗GitHub で見る ↗

mcpware/intentprobe の最新リリースは architecture-v0.1.2 である。この Python 研究リポジトリは、AI エージェントの分類とガードレールを対象に、一度固定して実行するローカル言語モデルの隠れ状態を複数のタスク別プローブが共に読む構造を扱う。各プローブはモデル実行を繰り返すことなく、それぞれ別の検出タスクを担う。リポジトリは Apache-2.0 ライセンスで、公開モデルとコード、再現可能なベンチマークを提供すると説明している。

この構造では、検出結果とポリシー判断、実際の実行権限が分離される。したがってプローブは入力から何を検出したかを報告し、その結果に基づくポリシー決定や実行は別の層が担う。それぞれの小型プローブは独立に学習し、バージョン管理される。資料にはユーザーの承認の有無を分類するプローブについての説明があり、公開スキャナーと単一プローブだけでなく、複数プローブをつなぐ実行経路、実験記録、再現資料、テストも含まれる。これは単一の分類器を完成品として示すのではなく、検出器を分割して組み立てる構成を検討する研究ツールに近い。

ただし、README の性能比較は研究上の測定値であり、一般的な評価ランキングや製品レベルの性能として読むことはできない。再現資料とテストは構造を検討する手がかりを与えるが、性能比較だけで実際のエージェント環境での効果やデプロイへの適用の適否が確認できるわけではない。したがって、このリポジトリの根拠はプローブ共有構造と実験資料の範囲に限って評価するのが妥当と考えられる。