cedriceuh/freetoken-rdna3 は、AMD Radeon RX 7900 XTX/XT(RDNA3)カードで Qwen3.8-Flash-Next のような Mixture-of-Experts(MoE)モデルを消費者向け GPU 1〜2 枚でローカル推論するための FreeToken のチューニングビルドである。2026 年 11 月 6 日のコミット 173df60 は、e5856ac までマージされた状態で全プロファイルと全チェックポイント(NVFP4、EXL3 3.05/4.05 bpw)の測定をやり直し、README の速度表とバナーを差し替えた。変更ファイルは 15 個、396 行(215 行追加、181 行削除)で、ソースコードではなくドキュメントとプロファイル設定(rdna3/profiles/*.env)側の変更である。
最も大きく変わったのはデコード(TG、1 秒間に生成されるトークン数)である。RX 7900 XTX+XT の 1 対構成では、NVFP4 は 92-115 tok/s から 107-133 tok/s へ、EXL3 3.05 bpw は 117-145 tok/s から 134-168 tok/s へ、EXL3 4.05 bpw は 105-112 tok/s から 118-128 tok/s へ上昇した。XTX 単体では NVFP4 が 38-47 から 45-54 tok/s へ、XT 単体では 30-36 から 36-42 tok/s へ上昇した。新規ブロックを読み込む処理量(PP)とエージェントターンの初回トークンレイテンシはコミットメッセージの記述どおり変化はないが、serve.sh のサンプリング設定では単一リクエストが 122.1 tok/s であり、以前の記録 106.2 tok/s より高かった。
これらの数値はプロジェクト自身の環境で再測定された値である。コミットメッセージによれば、表の各行ごとに rdna3/serve.sh でサーバを 1 台ずつ起動し、プロファイルはそのままに、カーネルキャッシュを埋めるための初回実行を 1 度行ったうえで、イメージ 640e1e5 上でグリーディデコードにより測定した。19 台のサーバで GPU エラーはなかったが、複数トークンを一度に予測する補助機構である MTP(Multi-Token Prediction)ヘッドを無効にした 1 台が最初の 4 分間低速にデコードし、再実行では再現しなかった。バナーの全体トラックが 150 から 175 tok/s に変わったのはグラフの目盛調整であり、別個の測定値ではない。
したがって、このコミットは改良コードというよりは検証記録に近い。AMD の消費者向けカードで MoE をローカルに動かそうとする人にとっては参考になる数値だが、ライセンスと外部検証は示されておらず、一部のレイテンシは説明されていないまま残っている。鵜呑みにするより、各自のカード構成で確かめる必要が残っている。