cedriceuh/freetoken-rdna3는 AMD Radeon RX 7900 XTX/XT(RDNA3) 카드에서 Qwen3.8-Flash-Next 같은 Mixture-of-Experts(MoE) 모델을 소비자용 GPU 한두 장으로 로컬 추론하는 FreeToken의 튜닝 빌드다. 2026년 11월 6일 커밋 173df60은 e5856ac까지 머지된 상태에서 모든 프로파일과 체크포인트(NVFP4, EXL3 3.05/4.05 bpw)의 측정을 다시 하고 README 속도표와 배너를 갈아끼웠다. 수정 파일은 15개, 변경은 396줄(215줄 추가, 181줄 삭제)이며 소스 코드가 아니라 문서와 프로필 설정(rdna3/profiles/*.env) 쪽이다.
가장 크게 바뀐 건 디코드(TG, 초당 생성 토큰 수)다. RX 7900 XTX+XT 한 쌍 구성에서 NVFP4는 92-115 tok/s에서 107-133 tok/s로, EXL3 3.05 bpw는 117-145 tok/s에서 134-168 tok/s로, EXL3 4.05 bpw는 105-112 tok/s에서 118-128 tok/s로 올랐다. XTX 단독은 NVFP4 38-47에서 45-54 tok/s, XT 단독은 30-36에서 36-42 tok/s로 올랐다. 블록을 새로 읽는 처리량(PP)과 에이전트 턴의 첫 토큰 지연은 커밋 메시지 기준으로 그대로지만, serve.sh의 샘플링 설정에서 단일 요청은 122.1 tok/s로 이전 기록의 106.2 tok/s보다 높았다.
이 수치는 프로젝트가 자기 환경에서 다시 잰 값이다. 커밋 메시지에 따르면 표의 각 행마다 rdna3/serve.sh로 서버를 하나씩 띄워 프로파일 그대로, 커널 캐시를 채우기 위한 첫 실행을 한 번 거친 뒤, 이미지 640e1e5 위에서 그리디 디코드로 잰 것이다. 19개 서버에서 GPU 오류는 없었지만, 한 번에 여러 토큰을 예측하는 보조 장치인 MTP(Multi-Token Prediction) 헤드를 끈 서버 하나가 첫 4분간 느리게 디코드됐고 재실행에서는 재현되지 않았다. 배너의 전체 트랙이 150에서 175 tok/s로 바뀐 것은 그래프 축 눈금 조정이지 별도 측정값은 아니다.
그래서 이 커밋은 개선 코드보다 검증 기록에 가깝다. AMD 소비자용 카드에서 MoE를 로컬로 돌려 볼 사람은 참고할 만한 수치지만, 라이선스와 외부 검증은 제시되지 않았고 일부 지연은 설명되지 않은 상태다. 그대로 믿기보다 각자 카드 구성에서 확인할 일이 남는다.