guardrails-ai/guardrails は、大規模言語モデル（LLM）の入力と出力にガードを適用して制約を加える Python フレームワークだ。リクエストをモデルに渡す前と、回答が返った後でそれぞれ Input/Output Guard を実行し、リスクを検知・定量化してから緩和する。Apache-2.0 ライセンスで配布されており、リポジトリの最新リリースは v0.11.0 だ。
このフレームワークの目的は、信頼できる AI アプリケーションを構築することだ。モデルの応答をそのままサービスへ出力するのではなく、実行経路の途中で書式制約とコンテンツ制約を適用する。検証の失敗を扱う経路もあわせて用意している。Guardrails Hub の複数の validator を組み合わせられ、LLM の出力から構造化されたデータを生成助于。独自 LLM とオープンソース LLM をサポートし、Python と JavaScript から利用できる。リポジトリは 2023 年 1 月 29 日に作成され、GitHub スター数は 7543 個だ。
ただし v0.11.0 のリリースノートと変更履歴は資料にないため、このバージョンが何を変えたのかは分からない。リスクをどれだけうまく検知できるかの比較数値もない。リポジトリの説明は LLM にガードレールを付けるという一文のみだ。調査記録にはモメンタムスコア 3.2 があるだけで、新規性・技術・品質スコアは示されていない。Apache-2.0 ライセンスなので検討の開始は容易だが、このバージョンが何を変えたのかを確認できるまでは導入を決定する根拠が足りない。