GitHub の nvidia-nemo/guardrails は NVIDIA の NeMo Guardrails で、LLM ベースの会話アプリケーションにプログラミング可能なガードレールを追加するオープンソースツールである。このリポジトリの最新リリースは v0.24.1 で、主要言語は Python である。ただし提供された資料にはこのリリースの変更履歴がないため、新規追加や変更の項目は確認できない。
核心はポリシーが適用される地点にある。入力と出力뿐 아니라検索段階とツール実行段階にもルールを適用し、ランタイムでエージェントが何を検索し、何を実行するかを制限する。README は、トピック制限、事前定義された会話フロー、構造化データ抽出、脆弱性防御を設定できると説明している。どのトピックを扱うか、どの会話を許可するか、応答からどのデータを抽出するかを決定する手段を併せて提供する。Python API とガードレールサーバーを提供し、会話フローは Colang で設計する。スター数は 7333 個で、リポジトリは 2023 年 4 月 18 日に作成された。
判断はまだ早い。ライセンスフィールドは NOASSERTION としか記録されておらず、実際の利用条件はこの資料では確認できない。評価スコアもモメンタム 3.4 のみが残り、新しさ・技術・品質の項目は空で、性能測定やベンチマークも示されていない。機能範囲とリリースごとの改善をまだ比較できないことを意味する。ライセンス条件と今回のリリースの変更内容を確認するまで、採用すべきかの判断は難しい。