ben1078/hipfire는 AMD GPU용 Rust 추론 도구 hipfire의 포크 저장소다. README는 Qwen3.8-27B의 MTP 디코드 작업을 다루며, 저장소 설명에는 RX 7900 XTX 한 장에서 약 100 tok/s를 기록했다고 적혀 있다. 함께 제시된 변경점은 int8 verify GEMV와 WMMA verify attention이다. 이는 각각 정수 8비트 행렬-벡터 연산을 이용한 검증과 WMMA를 이용한 어텐션 검증 경로를 가리킨다.
기반 도구는 모델 내려받기와 실행, 대화, 서버 기능을 제공한다. README는 안정판과 시험 중인 다음 버전을 구분하고 이미지 생성 및 여러 GPU 계열의 경로도 설명한다. Redline은 기록한 커널 그래프와 자원 의존성을 바탕으로 검증된 경로를 재생하며, 실패 조건에서는 일반 HIP 실행으로 돌아간다. 이런 설명은 디코드 성능뿐 아니라 실행 경로와 실패 시 동작도 다루는 프로젝트임을 보여준다.
성능 수치는 해당 포크 브랜치의 측정 결과다. README도 성능 표의 값이 특정 작업과 장비에 해당하며 모델 간 순위가 아니라고 한정한다. 따라서 약 100 tok/s를 공식 hipfire 릴리스나 현재 업스트림의 성능으로 해석할 수는 없다. 이 저장소에서 확인되는 범위는 특정 모델과 AMD GPU에서 시도한 디코드 경로이며, 더 넓은 성능 비교를 뒷받침하는 자료는 주어지지 않았다.