GitHub 上的 nvidia-nemo/guardrails 即 NVIDIA 的 NeMo Guardrails,是一款为基于 LLM 的对话应用添加可编程护栏的开源工具。该仓库的最新版本是 v0.24.1,主要语言为 Python。不过所提供的资料中没有这次版本的变更记录,因此无法确认新增或改动了哪些内容。
关键在于策略作用在哪些环节。它不仅对输入和输出施加规则,还对检索阶段和工具执行阶段施加规则,从而限制智能体在运行时检索什么、执行什么。README 说明可以配置主题限制、预设对话路径、结构化数据抽取和漏洞防护。它同时提供了决定讨论哪些主题、允许哪些对话、从响应中提取哪些数据的手段。项目提供 Python API 和护栏服务器,对话流程使用 Colang 设计。星标数为 7333,仓库创建于 2023 年 4 月 18 日。
下结论还为时过早。许可证字段仅记录为 NOASSERTION,实际使用条件无法从这份资料中确认。评估分数只剩动量 3.4,新颖性、技术、质量三项均为空,也没有给出性能测量或基准测试。这意味着功能范围和各版本之间的改进目前还无法比较。在确认许可证条件和本次版本的变更记录之前,很难判断是否适合采用。