mohammadhaishemkhawaja/hashyy は llama.cpp 向けの expert streaming プロジェクトで、12 GB GPU 1 枚で枝刈りしていない 177B MoE モデルを 11.5 tok/s で処理すると主張している。説明欄には、測定ハーネスとこれまでの失敗も併せて収録されていると記されている。2026-10-03 のコミット 6189bf3 は、コードではなく README.md の 1 ファイルだけに触れたドキュメント変更で、内容は追加 17 行・削除 1 行のみである。変更対象は測定表の 1 行であり、このコミットはその行が何を測定しているかを説明する変更であると示している。
README は従来の表記 'as inherited' を 'baseline' に置き換え、その baseline は stock llama.cpp ではないと強調している。このプロジェクトには README が扱う変更より前すでに二段階の作業が入っていたと説明し、その一覧として PR #25294 の fork、書き直された Windows 読み取り経路、保存される heat map、そして --poll 0 を挙げている。測定条件も併せて記載されている。同じバイナリで LLAMA_MOE_STREAM_ONE_HANDLE=1 により以前の単一共有ファイルハンドルに戻し、I/O スレッド 9 個、--poll 0 なし、hot file なし、-c 4096 で、before と after の 2 つの腕を交互に実行したとある。OS ページキャッシュだけでも結果が 3-5% 揺れると記し、別のビルドや別の日に得られた数値との比較には特に意味がないと結論している。
この文書における 8.14 tok/s は、このプロジェクトについて以前に引用されていた値だが、README はそれがより緩い旧プロトコルの warm 測定値であり、表の 5.85 – 7.07 は bench/sweep.py --cold で計測した cold 測定値だと明言している。このファイルで引用されている比較は cold-to-cold のみであると明記している。表の残りの値は、異なるプロンプトを交互に使う場合が 11.43 – 11.58、同じ条件での cold start が 11.55 – 11.57、新しい会話をターン単位で続けていく場合が 9.1 → 13.4（中央値 10.30）であり、表の下の要約は ~7.0 → 11.6 tok/s、+65% である。
ただし、今回の変更は説明だけである。パフォーマンス改善もコード修正もないため、リポジトリが速くなったという意味で読むことはできない。表の数値と +65% の要約はいずれもリポジトリ自身が整理した値であって、独立した検証ではない。ページキャッシュだけで 3-5% 揺れるという記録がある以上、warm の 8.14 tok/s と cold の 5.85 – 7.07 を並べて置くとき条件が違うことを併せて覚えておくべきである。数値をそのまま写すのではなく、まず各値がどの条件から出てきたかを読むほうがよい。