promptfoo/promptfoo 是一个 TypeScript 工具,用于自动评估和红队测试 LLM 应用的提示词与模型。它同时以 CLI 和库的形式提供。适用对象不只是提示词,还扩展到代理和检索增强生成(RAG,即先检索出依据、再把依据附到答案上的做法)。红队测试(red teaming)是诱导模型产出有害输出、借此找出漏洞的试验。评估项写在声明式配置文件里,在命令行或 CI/CD 中执行。README 说明 LLM 评估在本地运行。公开的最新版本是 code-scan-action-0.2.2。
用同一份声明式配置可以比较 GPT、Claude、Gemini、DeepSeek 等多个模型的性能,并执行漏洞扫描、红队测试和渗透测试。它可以作为 CI/CD 检查自动化,也可以分享结果。仓库说明称 OpenAI 和 Anthropic 使用该工具。仓库创建于 2023 年 4 月 28 日,目前有 26203 个 star,语言是 TypeScript,许可证是 MIT。
不过,仅凭公开记录还难以判断这个项目到了什么水平。评估记录里只剩下 momentum 分数 6.6,新鲜度、技术、质量分数都没有给出数值。code-scan-action-0.2.2 的变更内容在来源资料中也没有记载。OpenAI 和 Anthropic 的使用案例同样只是仓库说明里的说法。公开资料里也没有基准数值或标准化的评估指标。因此,第一个适合试用它的地方看来不是生产环境的判定工具,而是接到 CI 上,在改动提示词和模型之后盯着是否出现回退。