github.devotd.
新发现评测

promptfoo/promptfoo — 提示词、代理与 RAG 评估及红队测试 CLI

介绍 TypeScript 工具 promptfoo/promptfoo 如何用声明式配置评估并红队测试提示词、代理与 RAG,以及它公开的指标和这些数字的局限。

仓库信息promptfoo/promptfoo ↗

介绍 TypeScript 工具 promptfoo/promptfoo 如何用声明式配置评估并红队测试提示词、代理与 RAG,以及它公开的指标和这些数字的局限。

GitHub 项目说明: Test your prompts, agents, and RAGs. Red teaming/pentesting/vulnerability scanning for AI. Compare performance of GPT, Claude, Gemini, DeepSeek, and more. Simple declarative configs with command line and CI/CD integration. Used by OpenAI and Anthropic.

星标
★ 26.2K
复刻
2.5K
语言
TypeScript
许可证
MIT
最新版本
code-scan-action-0.2.2
查看原始来源 ↗在 GitHub 查看 ↗

promptfoo/promptfoo 是一个 TypeScript 工具,用于自动评估和红队测试 LLM 应用的提示词与模型。它同时以 CLI 和库的形式提供。适用对象不只是提示词,还扩展到代理和检索增强生成(RAG,即先检索出依据、再把依据附到答案上的做法)。红队测试(red teaming)是诱导模型产出有害输出、借此找出漏洞的试验。评估项写在声明式配置文件里,在命令行或 CI/CD 中执行。README 说明 LLM 评估在本地运行。公开的最新版本是 code-scan-action-0.2.2。

用同一份声明式配置可以比较 GPT、Claude、Gemini、DeepSeek 等多个模型的性能,并执行漏洞扫描、红队测试和渗透测试。它可以作为 CI/CD 检查自动化,也可以分享结果。仓库说明称 OpenAI 和 Anthropic 使用该工具。仓库创建于 2023 年 4 月 28 日,目前有 26203 个 star,语言是 TypeScript,许可证是 MIT。

不过,仅凭公开记录还难以判断这个项目到了什么水平。评估记录里只剩下 momentum 分数 6.6,新鲜度、技术、质量分数都没有给出数值。code-scan-action-0.2.2 的变更内容在来源资料中也没有记载。OpenAI 和 Anthropic 的使用案例同样只是仓库说明里的说法。公开资料里也没有基准数值或标准化的评估指标。因此,第一个适合试用它的地方看来不是生产环境的判定工具,而是接到 CI 上,在改动提示词和模型之后盯着是否出现回退。