Devotd Github
新着推論・サービング

tsaipifong/whirl-llm 0.2.5.1 — Radeon 8060S スピードアップ更新の公開ドキュメント

Windows AMD GPU 向けのネイティブ推論エンジン WHIRL の 0.2.5.1 公開ドキュメントが追加され、記載されている内容は Radeon 8060S のカーネル最適化値とインストールパス長制限の訂正である。

リポジトリ情報tsaipifong/whirl-llm ↗

Windows AMD GPU 向けのネイティブ推論エンジン WHIRL の 0.2.5.1 公開ドキュメントが追加され、記載されている内容は Radeon 8060S のカーネル最適化値とインストールパス長制限の訂正である。

GitHub の説明: WHIRL (Windows HIP Inference for RDNA LLMs): native Windows C++/HIP LLM inference engine for the AMD Radeon AI PRO R9700

スター
★ 22
フォーク
2
言語
C++
ライセンス
Apache-2.0
最新リリース
v0.1.4
原文を見る ↗GitHub で見る ↗

0.2.5.1 の公開ドキュメントを反映した tsaipifong/whirl-llm へのコミット fc42f1f が 2026-11-05(UTC)に入った。WHIRL は AMD GPU 上で動作する Windows ネイティブ C++/HIP ベースの LLM 推論エンジンである。コミットメッセージは、ソース・ツール・ビルドの変更はなくドキュメントのみを扱うと述べている。README と繁体字中国語 README、CHANGELOG、クイックスタート・使い方・サーバードキュメントが修正され、ベンチマークチャート画像が10枚 새로追加された。CHANGELOG の項目は 0.2.5.1 を 2026-11-06付の Radeon 8060S(AMD Ryzen AI Max+ 395)スピードアップ更新と定義している。

ドキュメントに記載された数値を見ると、8060S に5つの新しいカーネル経路が追加され、prefill は3つのモード・2つのモデルいずれでも +2%~+10% 速くなり、Swift-1.5 27B decode は balance で +5.8%~+12.1%、fast で +3.7%~+8.1% 上昇する。出力は 8060S のすべてのモードで 0.2.5 とビット単位で同一である。README は公式 llama.cpp b11960(v0.8.0、2026-10-28)の ROCm・Vulkan ビルドと比較し、balance モードでは 8060S がすべての計測セルで先行すると明言している。Swift-1.5 27B は ROCm 比 +28%~+59%、Vulkan 比 +30%~+106%、Ornith-1.5-35B-A3B はそれぞれ +51%~+65%、+46%~+127% である。測定は最大消費電力 80W、ASUS ROG Flow Z13、64GB UMA フレームバッファの条件下で、セルごとに3回の最良値を採用して行われたと記載されている。

CHANGELOG が整理した 0.2.5.1 の修正内容も明らかになる。インストールフォルダのパスが UTF-8 基準で150バイトを超える場合、GPU ランタイムがロードされる前に起動を拒否し、SSD キャッシュフォルダは217文字を超えると拒否される。0.2.5 の項目が長いインストールパスと260文字のキャッシュフォルダを許可すると記載していた箇所は 0.2.5.1 を基準に訂正され、0.2.5 の項目は原文のまま残されている。チューニングキャッシュのファイル名は tune5- に短縮され、whirl-server は終了時に pinned-memory のノートを消去するよう変更された。

根拠の限界も明確である。R9700 の GPU コードは 0.2.5 と同一で内部ビルド ID だけが異なるため、README の R9700 の数値は新しく測定した値ではなく 0.2.5 の値である。Ornith の decode セルはバージョン間で -6.3%~+6.4% 変動するが、実行ごとに承認される MTP draft の数が異なるため(64k balance で 0.71 から 0.60 に減ったとの説明)、各ステップが 0.5% 速くなった現象と併せて現れるとされる。Swift の precise decode は新しい経路を使わないためほぼ変わらない。8060S ユーザーには測定条件が明示された性能改善として読み取れるが、R9700 ユーザーには 0.2.5.1 は実質的な性能変化をもたらさない。