confident-ai/deepeval 是一个用于测试大语言模型(LLM)应用质量的开源框架,最新版本是 python-v4.2.4。该仓库自称为 LLM 评估框架,使用 Python 编写,并以 Apache-2.0 许可证发布。GitHub 星标数为 18993,仓库创建于 2023 年 8 月 10 日。
README 说明,这个项目是一个像 Pytest 一样专注于 LLM 应用单元测试的工具,也就是逐一检查每个功能是否按预期工作。它提供 G-Eval、任务完成度、答案相关性、幻觉(hallucination)等指标来评估应用整体,并单独考察通过检索查找外部知识并将其结合进答案的检索增强生成(RAG)、AI 代理行为顺序的轨迹(trajectory)及其中的各个步骤,以及对话质量。它与包括 LangChain 和 OpenAI 在内的多个框架集成,并说明在 Confident AI 中可以针对生产环境的跟踪(trace)运行评估。
不过,由于提供的记录中没有 python-v4.2.4 的改动内容,因此无法确认。记录中留下的 momentum 评分为 10 分制下的 5.9 分,原创性、技术和质量分数均未给出。指标列表与集成范围只是转述 README 的说明,因此并非证明实际评估准确性的结果。版本变更内容和指标实测性能都仍处于未确认状态。