modelscope/evalscope が v1.14.0 を公開した。2026年10月20日の GitHub リリースとして登場した今回のバージョンは、意思決定・コード・表・金融・空間・マルチモーダル評価用のリソースを追加し、評価指標とデータセットローディング(評価リソースを読み込む過程)を拡張した。スコアリング・キャッシュ・並行性・Web タスクに関するエラー多数もあわせて修正した。
evalscope は、大規模言語モデル(LLM)、視覚言語モデル(VLM)、AI 生成コンテンツ(AIGC)の評価と性能ベンチマークを 1 つのツールで扱うフレームワークだ。性能ベンチマークは同じ条件でモデルを比較して性能を測る作業であり、このリポジトリはその手順を 1 か所にまとめている。リポジトリの説明はこのツールを簡潔に整理しながら、ユーザーが指標とデータセットを差し替えて使える形として定義している。評価に使う資料と指標をユーザー設定として扱う構造であり、今回のバージョンはその範囲を広げた。GitHub スターは 3571 個だ。
ただし、提示されたリリース情報には新しく追加されたリソースで得られた評価スコアもモデルごとの比較結果もない。性能改善の数値も示されていない。各リソースがどの名称で追加されたかはリリースノート(https://github.com/modelscope/evalscope/releases/tag/v1.14.0)で確認する必要がある。エラーの修正もあわせて含まれるため、このバージョンはリソースの追加と実行側のエラー修正が同時に入ったリリースと捉えられる。スコアの比較がないため、モデル間の優劣はこの情報だけでは判断できない。