giskard-ai/giskard-oss は LLM(大規模言語モデル)エージェントをテストし評価するオープンソースの Python ライブラリだ。このリポジトリの最新リリースは giskard-agents/v1.0.5 で、出典は GitHub の giskard-ai/giskard-oss リポジトリである。
ライセンスは Apache-2.0 で、GitHub スターは 5913 個。2022 年 3 月 6 日に作成され、README はこのライブラリを 2 つの系統に分けて説明している。Giskard Checks はシナリオ API で自作したシナリオや組み込みチェックを使い、LLM-as-judge(モデル自身が結果を判定する方法)で非決定的な出力を検証する。
Giskard Scan はレッドチーム(攻撃者を真似て試す)シナリオ、脆弱性スキャン(既知の弱点 유형を試して安全上の問題を見つける作業)、RAG(検索した文書を根拠に答えを作る方式)の品質評価を担う。何度も発话が続くマルチターンのテストで、実際のエージェントが攻撃に阻まれる地点を確かめることがこのプロジェクトの狙いだ。
ただし確認すべき限界もある。giskard-agents/v1.0.5 で何が変わったかは示された資料には載っておらず、性能を示すベンチマーク結果も提示されていない。観測されたモメンタム指標は 10 点基準 1.8 と低く、残りの評価指標は資料にない。リリースの変更内容を確認するまで、README に書かれた機能範囲のみを根拠とするのが現実的だ。