C++/SYCL로 Intel Arc 카드에서 로컬 LLM 추론을 돌리는 machx-inference-engine이 2026년 11월 2일 GitHub 커밋에서 v0.2.35를 공개했다. 핵심은 Flash-Next의 레이어 분할이 카드 두 장짜리 고정 쌍에서 --gpus N개의 N단계 체인으로 바뀌었다는 점이다. 같은 커밋에서 커뮤니티 GGUF의 판독 오류도 함께 고쳐졌다.
이전에는 --gpus가 2로 제한돼 있었다. 이제 단계 s가 카드 s의 레이어 구간 [s·48/N, (s+1)·48/N)를 맡고, 전방 패스·파이프라인 프리필·MTP 드래프트 헤드(추측 디코딩용)의 검증 라운드·프롬프트 룩업·프롬프트 캐시·재시작 지점·요청 레인·이미지 스테이징이 모두 같은 체인 단계를 거친다. 4장 Arc Pro B70 서버를 만들려던 사용자가 중간 단계만 일부 경로에 연결해 48개 중 24개 레이어만 실행된 문제를 보고했고, 이번 변경은 단계 하나를 건너뛸 수 없는 구조로 고친다.
검증은 실제 4장 대신 IE_Q4E_LOGICAL_CARDS 테스트 스위치로 한 카드를 여러 단계로 쪼개 2장에 4단계를 올리는 방식이었다. 이때 그리디 응답이 2단계 서버와 바이트 단위로 같았고, ie-qwen4exp-run2 게이트 도구는 N단계 체인의 로짓을 1카드 기준과 비트 단위로 비교해 4단계와 3단계가 통과했다. IE_Q4E_RUN2_SKIP_STAGE 자체 점검은 한 단계를 빠뜨리면 통과하지 못한다. 별도로 엔진 컨버터는 per_layer_token_embd.weight를 IQ4_NL(행당 90바이트)로 쓰지만 Unsloth Q8_0와 UD-Q6_K_XL 같은 커뮤니티 파일은 Q8_0(행당 170바이트)로 담는다. 게더가 한 형식만 읽어 파일은 로드되면서도 쓰레기 답을 냈고, 이제 dtype별로 읽으며 다른 형식은 이름째로 거부한다. P2P 공유 컨텍스트도 모든 카드를 유지하고 카드 쌍마다 양방향 peer access를 켠다.
다만 네 장짜리 실카드는 확보하지 못했다. 4카드 수치는 이제 사용자의 첫 측정이 남았고, 검증은 카드 두 장의 논리 분할에 의존한다. 카드 직접 전송인 IE_P2P=1은 B70에서 호스트 경유가 더 빠르다는 측정 때문에 2단계 기능으로 남았다. expert 업로드용 pinned 메모리 경로도 켜면 디코드가 14~23% 느려지고 첫 토큰이 47% 늦어져 기본값은 꺼짐이다. 커뮤니티 파일의 라우팅 expert는 아직 로드 시 F16 복사본(파일 크기의 1.88배)을 호스트 메모리에 올린다. Flash-Next를 여러 Arc 카드에 나눠 돌릴 계획이 있다면 v0.2.35는 시도해 볼 단계지만, 실카드 4장 수치와 expert 스트리밍 지원은 다음 버전의 몫이다.