bitexploder/fnfl-v100은 Tesla V100 GPU에서 Qwen Flash Next 3.8을 실행하도록 만든 C++ 추론 엔진이다. llama.cpp에서 파생했으며, 저장소 설명은 V100에 맞춰 처음부터 작성한 코드라고 밝힌다. 단일 GPU와 여러 GPU 구성을 대상으로 한다. 최신 릴리스 정보는 없다.
이 엔진은 범용 추론 도구라기보다 특정 모델과 GPU 조합에 초점을 둔다. 저장소 안내에 따르면 두 가지 양자화 형식을 지원하고, 혼합 전문가 캐싱과 동시 요청 처리 기능을 제공한다. 혼합 전문가(Mixture of Experts)는 여러 전문가 모델 중 일부를 골라 처리하는 구조이며, 캐싱은 필요한 전문가를 빠르게 다시 사용할 수 있도록 보관하는 방식이다. 이미지 입력도 지원하며, 다른 사용자의 생성이 진행되는 동안 긴 프롬프트를 읽는 기능도 포함한다. 라이선스는 MIT다. README에는 빌드와 실행 방법, 버전별 변경점, 하드웨어 조건을 밝힌 성능 비교표가 있다.
성능 비교표는 저장소가 공개한 측정값이며, 별도로 재현 검증된 결과는 아니다. 따라서 표는 해당 저장소가 제시한 조건에서의 참고 자료로 보는 편이 타당하다. 확인 가능한 범위도 Qwen Flash Next 3.8과 V100에 특화된 기능 안내까지다. 다른 모델이나 하드웨어에서도 같은 결과를 기대할 근거는 제시되지 않았다.