github.devotd.
新发现安全

nvidia-nemo/guardrails v0.24.1 — 用于 LLM 对话的护栏工具

介绍 nvidia-nemo/guardrails 的最新版本 v0.24.1,以及通过在输入、输出、检索和工具执行阶段施加策略来限制智能体行为的护栏结构。

仓库信息nvidia-nemo/guardrails ↗

介绍 nvidia-nemo/guardrails 的最新版本 v0.24.1,以及通过在输入、输出、检索和工具执行阶段施加策略来限制智能体行为的护栏结构。

GitHub 项目说明: NeMo Guardrails is an open-source toolkit for easily adding programmable guardrails to LLM-based conversational systems.

星标
★ 7.3K
复刻
876
语言
Python
许可证
NOASSERTION
最新版本
v0.24.1
查看原始来源 ↗在 GitHub 查看 ↗

GitHub 上的 nvidia-nemo/guardrails 即 NVIDIA 的 NeMo Guardrails,是一款为基于 LLM 的对话应用添加可编程护栏的开源工具。该仓库的最新版本是 v0.24.1,主要语言为 Python。不过所提供的资料中没有这次版本的变更记录,因此无法确认新增或改动了哪些内容。

关键在于策略作用在哪些环节。它不仅对输入和输出施加规则,还对检索阶段和工具执行阶段施加规则,从而限制智能体在运行时检索什么、执行什么。README 说明可以配置主题限制、预设对话路径、结构化数据抽取和漏洞防护。它同时提供了决定讨论哪些主题、允许哪些对话、从响应中提取哪些数据的手段。项目提供 Python API 和护栏服务器,对话流程使用 Colang 设计。星标数为 7333,仓库创建于 2023 年 4 月 18 日。

下结论还为时过早。许可证字段仅记录为 NOASSERTION,实际使用条件无法从这份资料中确认。评估分数只剩动量 3.4,新颖性、技术、质量三项均为空,也没有给出性能测量或基准测试。这意味着功能范围和各版本之间的改进目前还无法比较。在确认许可证条件和本次版本的变更记录之前,很难判断是否适合采用。