Devotd Github
新着評価

rails/lemans v1.6.0 — Miniswen のプロンプトキャッシュと ruby_llm 2.1.1 の採用

Ruby のエージェントベンチマークハーネス rails/lemans が 2026-11-03 に 1.6.0 へ上がり、Miniswen に ruby_llm 2.1.1 と広範なプロンプトキャッシュ変更が盛り込まれた。

リポジトリ情報rails/lemans ↗

Ruby のエージェントベンチマークハーネス rails/lemans が 2026-11-03 に 1.6.0 へ上がり、Miniswen に ruby_llm 2.1.1 と広範なプロンプトキャッシュ変更が盛り込まれた。

GitHub の説明: A Ruby harness for running agent benchmarks

スター
★ 82
フォーク
5
言語
Ruby
ライセンス
MIT
原文を見る ↗GitHub で見る ↗

rails/lemans は、エージェントのベンチマークを実行して結果を収集する Ruby ハーネスだ。同じリポジトリには Miniswen という別モジュールも含まれ、2026-11-03 のコミット 'Bump 1.6.0' は両モジュールのバージョンファイルをまとめて 1.5.2 から 1.6.0 へ上げた。変更は 3 ファイル、追加 4 行・削除 2 行のみで、CHANGELOG には 2026-11-03 日付の 1.6.0 項目が新しく追加された。

1.6.0 に含まれる変更はすべて Miniswen 側のものである。ruby_llm を 2.1.1 に上げて組み込みキャッシュ、終了理由 (finish reasons)、推論リプレイ (reasoning replay) を使用し、維持していた約 10 分のリトライウィンドウ、RUBYLLM_DEBUG フラグ、JSON 3 の許容はそのまま残した。その後、OpenRouter の全モデルに prompt_cache_key を送り、セッションが特定のプロバイダ順序に紐づかなくてもキャッシュが維持されるようにし、プロンプトキャッシュをすべてのモデルで有効化して、Claude のようにキャッシュが必要なモデル (Anthropic API を含む) はキャッシュし、元々自動でキャッシュされていたモデルには影響がないようにした。

ただし、このコミットが残したのは CHANGELOG の項目とバージョン定数だけである。コミット 335272ae006d02f0f6a5b4b51e707f99b79d10a8 を 기준으로、性能数値もベンチマーク結果もライセンス情報も示されていないため、キャッシュが実際にどれだけ減少するかは推測できず、スコアの変化もこの資料からは確認できない。キャッシュの維持と可観測性 (デバッグフラグ、終了理由、推論リプレイ) が必要でエージェントハーネスを選定するチームなら 1.6.0 を直接確認する価値はあるが、性能改善を根拠に導入を決める段階ではない。