새 소식
dylanatl15/engine-lab — 단일 Radeon VII용 llama.cpp 패치
dylanatl15/engine-lab은 llama.cpp 패치와 실행 도구, 측정 기록을 통해 단일 16GB Radeon VII에서 대형 혼합 전문가 모델을 실행하는 방법을 정리한 저장소다.
dylanatl15/engine-lab은 llama.cpp 패치와 실행 도구, 측정 기록을 통해 단일 16GB Radeon VII에서 대형 혼합 전문가 모델을 실행하는 방법을 정리한 저장소다.
GitHub 설명: Run a 125B-class MoE (Qwen3.8-Flash-Next) at ~27 t/s on ONE 16 GB Radeon VII: expert-cache patches, benchmarks, profiling notes and dead ends
GitHub에서 보기 ↗dylanatl15/engine-lab은 llama.cpp 패치와 실행 도구, 측정 기록을 통해 단일 16GB Radeon VII에서 대형 혼합 전문가 모델을 실행하는 방법을 정리한 저장소다.
조건에 맞는 소식이 없습니다.