新发现
dylanatl15/engine-lab — 面向单张 Radeon VII 的 llama.cpp 补丁
dylanatl15/engine-lab 是一个整理了如何通过 llama.cpp 补丁、运行工具和测量记录，在单块 16GB Radeon VII 上运行大型混合专家模型的仓库。
dylanatl15/engine-lab
dylanatl15/engine-lab 是一个整理了如何通过 llama.cpp 补丁、运行工具和测量记录，在单块 16GB Radeon VII 上运行大型混合专家模型的仓库。
GitHub 项目说明: Run a 125B-class MoE (Qwen3.8-Flash-Next) at ~27 t/s on ONE 16 GB Radeon VII: expert-cache patches, benchmarks, profiling notes and dead ends
在 GitHub 查看 ↗- 星标
- ★ 0
- 复刻
- 0
- 语言
- C++
- 许可证
- NOASSERTION
文章
1没有符合条件的动态。