github.devotd.
新发现AI 智能体

mcpware/intentprobe architecture-v0.1.2 — 探针共享结构研究

mcpware/intentprobe 是一个 Python 仓库,研究多个按任务划分的探针共享固定本地语言模型隐藏状态的结构。

仓库信息mcpware/intentprobe ↗

mcpware/intentprobe 是一个 Python 仓库,研究多个按任务划分的探针共享固定本地语言模型隐藏状态的结构。

GitHub 项目说明: CPU activation probes for AI-agent guardrails and classification. One frozen local model pass, many independent heads. Open models, code and reproducible benchmarks.

星标
★ 9
复刻
0
语言
Python
许可证
Apache-2.0
最新版本
architecture-v0.1.2
查看原始来源 ↗在 GitHub 查看 ↗

mcpware/intentprobe 的最新版本是 architecture-v0.1.2。这个 Python 研究仓库面向 AI 智能体的分类与护栏,探讨了一种结构:多个按任务划分的探针共同读取一次性固定运行的本地语言模型的隐藏状态。各探针分别承担不同的检测任务,无需重复执行模型。该仓库说明其采用 Apache-2.0 许可,并提供公开的模型与代码以及可复现的基准测试。

在这种结构中,检测结果、策略判断与实际执行权限是分离的。因此探针只报告它从输入中检测到了什么,基于该结果的策略决定或执行由单独的层负责。每个小型探针独立学习并进行版本管理。资料中包含关于判定用户是否已批准的探针的说明,并且不仅有公开扫描器和单个探针,还有把多个探针串联起来的执行路径、实验记录、复现材料与测试。与其说它提供了一个成品分类器,不如说它更接近一种研究工具,用于考察把检测器拆分组合的构成方式。

不过,README 中的性能比较属于研究测量值,不能当作通用评测排名或产品级性能来解读。复现材料与测试为审查该结构提供了线索,但仅凭性能比较并不能确认真实智能体环境中的效果或部署适用性。因此,更妥当的做法是把该仓库的依据限定在探针共享结构与实验材料的范围内来看。