kekzl/imp는 NVIDIA Blackwell GPU 한 장을 대상으로 하는 C++23 LLM 서버다. 최신 릴리스는 v0.59.2다. 제공된 정보에는 이 버전에서 새로 바뀐 항목이 따로 제시되지 않았다. 컨테이너 하나로 실행하며 OpenAI 및 Anthropic 호환 API와 도구 호출을 지원한다.
이 서버는 Blackwell(sm_120a)의 네이티브 4비트 연산과 텐서 코어, 저정밀 연산 경로에 집중한다. 입력 형식은 GGUF와 NVFP4다. README는 RTX 5090에서 실행한 측정값과 비교 기준을 공개한다. Qwen3.8-27B를 단일 사용자로 실행한 결과는 초당 96.3 토큰이다. 같은 측정에서 speculative decoding 없이 vLLM보다 1.38배, 같은 GGUF를 사용한 llama.cpp보다 1.23배 빠르다고 기록했다. 32 GB 카드에서 123.6 GiB 크기의 Qwen3.8-Flash-Next를 초당 92.1 토큰으로 서비스한다는 값도 있다.
적용 범위는 단일 Blackwell GPU 환경으로 한정된다. README는 단일 GPU 외의 환경을 지원하지 않는다고 명시하며, 대상은 GeForce RTX 50과 RTX PRO 계열이다. 따라서 공개된 수치와 기능은 다른 GPU나 여러 GPU를 사용하는 환경의 근거가 되지 않는다. 비교 결과도 README에 기재된 조건 안에서 읽어야 하며, 이 서버의 지원 범위는 좁은 편이다.