AMD Ryzen AI(Strix Halo)でローカル LLM 推論を実行する 1bit-monster/engine の最新コミット(2026-11-07、0f45221)が、モデル選択ルーティングを測定するコマンドを追加した。Radeon iGPU の HRX と XDNA 2 NPU を併用し OpenAI 互換 API を提供するエンジンに、`1bit route --laya-models` に `--eval` と `--dump-encoder` が付与された。
両オプションとも、サーバーが実際に選ぶ経路(サイズゲート後の Laya 判定)をそのまま再現する。`--eval` はラベル付きの状態一覧(CASES.jsonl)を読み込み、精度、クラスごとの再現率と精度(precision)、混同行列、信頼度、ECE(期待校正誤差)、対数損失、判定時間を算出する。計算コードは `laya/eval.cpp` に分離され、チェックポイントなしでも検証できる単体テスト(`laya_eval_test`)と実際の実行を確認する `laya_eval_e2e.sh` が同時に追加された。
`--dump-encoder` は、決定ヘッドが受け取る入力を状態ごとに保存する。最終正規化直後のエンコーダー出力(h.f32)、マーカー位置、qtype、およびエンジンが計算したロジットと確率が cases.jsonl として出力されるため、ヘッドだけをファインチューニングするならエンコーダーも第二トークナイザーも必要ない。新経路はスコアラー側の `RawOutput::keep_encoder` を有効にしないと動作せず、既定の経路は変わっていない。
ただし、このコミットは機能を追加しただけであり、ルーティング品質が改善した証拠ではない。コミットメッセージは評価の算術がチェックポイントなしでテストされたと述べるのみで、実際の数値は示していない。変更の規模は 740 行の追加、3 行の削除で、新しいファイルには Apache-2.0 ヘッダーが付与された。自身のデータで経路を再測定するなら、この評価コマンドを先に実行するほうが近道である。