surya-koritala/glyd v0.32.1 は Gemma 4 のトークン生成速度を改善したリリースだ。2026年10月17日に公開された GitHub リリースには、RTX 4080 SUPER と Gemma 4 12B の組み合わせでの速度改善と、glyd fetch と glyd verify がモデルをダウンロードして実行するよう誤って渡していた問題の修正が含まれている。変更内容の出典は surya-koritala/glyd の v0.32.1 リリースである。
Glyd は無損失 AI 圧縮を掲げるプロジェクトだ。リポジトリの説明は GPU メモリ使用量を 33% 減らしながら、結果がビット単位で同一に保たれるとしている。速度比較は RTX 4080 SUPER と Gemma 4 12B を対象に、ドラフトモデルを使用しない条件で行われた。秒あたりのトークン数はチャットで 81.2 から 88.9 へ、4K プロンプトの後で 74.7 から 82.1 へ、30K プロンプトの後で 59.5 から 64.0 へ変化した。リリースでは、ドラフトUsedかどうかに関係なく出力は同じだと説明している。
これらの結果が示す範囲は限定的だ。サポート対象は Linux と NVIDIA RTX 30 系以降で、処理対象はテキスト単一リクエストである。したがって今回の速度改善は、リリースに記載された GPU・モデル条件とサポート範囲の中で解釈すべきであり、他の環境やリクエスト種別における性能まで証明した結果ではない。