Devotd Github

dylanatl15/engine-lab

dylanatl15/engine-lab은 llama.cpp 패치와 실행 도구, 측정 기록을 통해 단일 16GB Radeon VII에서 대형 혼합 전문가 모델을 실행하는 방법을 정리한 저장소다.

GitHub 설명: Run a 125B-class MoE (Qwen3.8-Flash-Next) at ~27 t/s on ONE 16 GB Radeon VII: expert-cache patches, benchmarks, profiling notes and dead ends

GitHub에서 보기 ↗
스타
★ 0
포크
0
언어
C++
라이선스
NOASSERTION

게시물

1