bpx03/qengine은 Qwen3.8-27B INT4 모델을 RTX 3090 여러 장에서 실행하도록 만든 C++·CUDA 추론 엔진이다. 저장소의 최신 릴리스는 v1.0이다. README는 연속 배치(continuous batching), 추측 디코딩(speculative decoding), KV 캐시 재사용, 이미지 입력을 지원 기능으로 소개한다. 이 기능들이 해당 모델과 하드웨어 구성에서 제공된다는 점이 프로젝트의 범위다.
주요 구성은 RTX 3090 세 장을 이용하는 PCX 기반 텐서 병렬 실행이다. 서버는 공유 라이브러리를 불러 OpenAI 및 Anthropic 호환 API를 제공하며, Claude Code 같은 도구와 연결할 수 있다고 설명한다. 두 장 구성의 성능 측정값도 공개되어 있다. 따라서 범용 추론 엔진이라기보다 특정 모델과 그래픽카드 조합에 맞춘 실행 경로와 서버 연결 방식을 제공하는 프로젝트에 가깝다.
다만 공개된 성능 측정은 수정된 NVIDIA 커널 드라이버를 통해 그래픽카드끼리 직접 통신하는 구성을 전제로 한다. 다른 그래픽카드와 모델에 대한 지원은 제한적이라고 README가 밝힌다. 라이선스는 NOASSERTION으로 표기되어 있어 사용 조건도 이 자료만으로는 확인할 수 없다. 성능 결과를 다른 환경에 그대로 적용하기보다, 문서에 적힌 하드웨어와 드라이버 조건 안에서 살펴볼 프로젝트다.