github.devotd.
新着AIエージェント

jevagentharness/jevagentharness — コーディングエージェントのモデルルーティングプロキシ

jevagentharness/jevagentharness はコーディングエージェントの各ステップを分類してモデルを割り当てるプロキシで、README にある Terminal-Bench 2.0 の実測とその限界を扱う。

スター
★ 5
フォーク
0
言語
Python
ライセンス
MIT
原文を見る ↗GitHub で見る ↗

jevagentharness/jevagentharness は、コーディングエージェントの各ステップを小さな判定モデルが「通常」と「難題」に分類し、それに応じてモデルを割り当てるローカル OpenAI 互換プロキシだ。通常のステップは高速なモデル、難題は強いモデルに送る。README によれば Python 3.10 以上が必要で、まだ alpha 段階である。

README は Terminal-Bench 2.0 が保有する 74 タスクをハーネスごとに 1 回ずつ実行した結果を公開している。mini-swe-agent の成功率は 66.2% から 63.5% へ 2.7 ポイント低下し、95% 区間は -14.9〜+8.1 だった。タスクあたりのコストは 0.91 ドルから 0.33 ドルへ 64% 減、時間は 13.7 分から 7.9 分へ 43% 減となった。pi と DeepSeek Harness は成功率の低下なしに、コスト28〜31%、時間 4〜15% を削減した。ただし強いモデルのまま残ったステップの割合は 45〜55% だった。

削減幅は高速モデルの価格差によって異なった。トークンあたり 2.7 倍安い Flash では削減は 7〜13% にすぎず、4〜7 倍安い Flash-Lite では 28〜64% だった。Terminus-2 では基準の 74 タスクのうち 53 件がタイムアウトで終了し、作者は結論を下すことができないとした。実行前に登録したプロトコル、タスク別の生データ、arXiv 2610.21412、モデルとデータは公開されている。ただしこれは alpha プロジェクトの作者自身による実測であり、Terminus-2 の結果だけでは性能を判断できない。