microsoft/pyrit 是一个为前瞻性识别生成式 AI 系统风险而打造的开源框架。它是面向安全专家和工程师的红队工具,PyRIT 这一名称的含义是 Python Risk Identification Tool for generative AI。最新的版本是 v1.1.0,本次发布的变更记录在已确认的资料中并未给出。
这个框架的核心在于把攻击生成、转换、目标执行和评分整合为一套流程。它针对目标构造攻击,按目标对其加以转换(transform),随后实际执行目标,并对结果进行评分(scoring),从而完成可重复的对抗性测试。由于同一流程可以反复重演,它被用作生成式 AI 安全性评估的依據。
许可证为 MIT,实现语言为 Python,仓库创建于 2023 年 12 月 12 日,星标数为 4663。README 指引访问一个包含使用、安装和贡献说明的网站、用于私下报告漏洞的 Microsoft Security Response Center,以及可以与团队和社区取得联系的 Discord 服务器。
不过,证据中断之处也很清楚。仅凭该仓库的资料,无法比较它能在哪些模型上识别出多少风险,也没有给出基准测试或验证数值。所提供的评估项目中,只有 Momentum 得了满分 10 分中的 3.5 分,其余项目没有数值。用于针对特定目标和既定评估标准进行试验尚属可用,但尚无依据把它视为通用的风险判定工具。