新着
dylanatl15/engine-lab — 単一 Radeon VII 向け llama.cpp パッチ
dylanatl15/engine-lab は、llama.cpp のパッチと実行ツール、計測記録を通じて、単一の 16GB Radeon VII で大型混合 Experts モデルを実行する方法をまとめたリポジトリである。
dylanatl15/engine-lab
dylanatl15/engine-lab は、llama.cpp のパッチと実行ツール、計測記録を通じて、単一の 16GB Radeon VII で大型混合 Experts モデルを実行する方法をまとめたリポジトリである。
GitHub の説明: Run a 125B-class MoE (Qwen3.8-Flash-Next) at ~27 t/s on ONE 16 GB Radeon VII: expert-cache patches, benchmarks, profiling notes and dead ends
GitHub で見る ↗- スター
- ★ 0
- フォーク
- 0
- 言語
- C++
- ライセンス
- NOASSERTION
投稿
1該当するニュースはありません。