johnfink8/sfnx(sFNX)는 여러 PCIe 그래픽 카드에 모델의 각 층 연산을 나누는 CUDA 추론 엔진이다. 저장소 설명에 따르면 세 장의 PCIe V100에서 작동하며, 한 요청이 각 카드의 메모리를 동시에 읽도록 층을 쪼갠다. 카드 사이의 덧셈을 직접 구현해 전용 카드 간 연결 모듈 없이 PCIe 연결을 사용한다. README는 이 장비에서 초당 382토큰(tok/s)을 낸다고 밝힌다.
이 프로젝트는 여러 카드로 MoE LLM을 실행하는 별도 엔진과 서빙 계층을 제공한다. OpenAI·Anthropic 호환 인터페이스도 포함한다. 저장소에는 이미지 처리기와 설계·벤치마크·검증 문서가 있으며, 구현 언어는 Python이고 라이선스는 MIT이다. README는 특정 V100 구성의 모델 실행과 동시 대화 처리 결과를 공개한다. 따라서 주목할 점은 단일 카드 성능이 아니라 PCIe로 연결된 여러 카드에서의 층 분할 방식이다.
다만 초당 382토큰은 저장소가 밝힌 특정 V100 세 장 구성의 결과다. README는 측정 방식과 적용 범위의 한계를 함께 설명하며, CUDA 구성과 모델 파일, 실행 설정이 필요하다. 지원 그래픽 카드 세대와 정밀도에도 제약이 있다. 다른 카드 구성이나 모델에서 같은 결과가 나온다는 근거는 제공되지 않아, 성능 수치는 해당 장비와 측정 범위 안에서 읽어야 한다.