giskard-ai/giskard-oss 是一个用于测试和评估 LLM(大型语言模型)智能体的开源 Python 库。该仓库的最新发布版本是 giskard-agents/v1.0.5,来源为 GitHub 上的 giskard-ai/giskard-oss 仓库。
它采用 Apache-2.0 许可证,GitHub 星标数为 5913。创建于 2022 年 3 月 6 日,README 将该库分为两条线。Giskard Checks 支持使用通过 scenario API 自行构建的场景或内置检查,并以 LLM-as-judge(由模型自行评判结果的方式)验证非确定性输出。
Giskard Scan 负责红队场景(模拟攻击者进行测试)、漏洞扫描(测试已知弱点类型以发现安全问题)以及 RAG(依据检索到的文档作答)质量评估。通过多轮测试(连续进行多轮对话),检查真实智能体在哪些环节会被攻击拦下,正是这个项目的目标所在。
不过仍有一些边界需要确认。giskard-agents/v1.0.5 有哪些改动并未出现在给出的资料中,也没有提供展示性能的基准测试结果。已观测到的动能指标偏低,10 分制下仅为 1.8,其余评估指标则没有资料支撑。在确认版本变更记录之前,仅以 README 中写明的功能范围作为依据更为现实。