cisco-ai-defense/project-quarry 是一个用于在智能体对话中发现威胁与行为模式的规则引擎。它是发布在 GitHub 上的 Python 项目,采用 Apache-2.0 许可证。最新版本是 0.1.0。给出的资料没有单独记录这个版本有哪些具体改动。因此这里能确认的并不是某项新功能的加入,而是仓库所描述的该工具的用途与工作方式。
该工具用用户编写的规则检查对话中的消息、工具调用与结果,以及事件顺序。规则在加载阶段经过语法检查与验证,通过的规则被编译为符号有限状态自动机,应用到对话流程上。有限状态自动机是一种在既定状态之间移动并检查输入顺序的方式。无法编译的规则不能加载。它可以检查文本与正则表达式、结构化字段以及是否使用了工具,也能表达跨越多个回合的流程。结果可以包含证据,并以人类可读的格式或 JSON、CSV 的形式从命令行输出。资料中还说明了输入大小、编译时间、运行时间和模型调用次数方面的限制。
不过 README 说明 Project Quarry 处于 alpha 阶段,规则语法可能发生变化。因此很难假定当前的规则与配置在之后的版本中保持不变。用显式规则检查多阶段对话流程的用途是明确的,但在语法稳定之前,它仍是一个需要考虑变化可能的早期工具。