happyme531/open_rknpu2_lm_infer는 RK3588 NPU에서 LLM을 돌리는 오픈소스 추론 엔진이다. 2026년 11월 3일 병합된 커밋(84db49f)은 이 프로젝트에 ARM64 컨테이너 이미지 발행 경로와 Compose 배포 템플릿을 추가했다.
Dockerfile은 debian:bookworm-slim에서 v0.11.0 릴리스 tarball을 내려받아 실행 파일과 필요한 공유 라이브러리만 골라 scratch 이미지로 만든다. 기본 명령은 serve --host 0.0.0.0 --port 8080이고, README에 적힌 그대로 OpenAI 호환 LLM API를 8080 포트로 노출한다. compose.yaml는 ghcr.io/happyme531/open_rknpu2_lm_infer:${RKNPU_VERSION:-0.11.0} 이미지를 linux/arm64로 고정하고 NPU DRM 장치(기본 /dev/dri/renderD129)를 컨테이너에 넘긴다. 모델 디렉터리는 /models에 읽기 전용으로 붙고 튜닝 캐시는 별도 볼륨에 남는다. 바인드 주소는 기본 127.0.0.1, API 키는 OPEN_RKNPU_API_KEY 환경 변수로 전달한다. 이미지 라벨에는 라이선스가 AGPL-3.0-only로 적혀 있다.
이미지 발행은 .github/workflows/container.yml이 맡는다. release.yml이 릴리스를 올린 뒤 자동으로 컨테이너를 빌드하고, ci.yml의 워크플로 디스패치에서 특정 버전 입력으로 기존 릴리스만 골라 발행할 수도 있다. 빌드 뒤에는 컨테이너에서 --version 출력과 models 서브커맨드가 만든 JSON의 version, model_families를 확인한 다음 GHCR로 푸시하며, 최신 릴리스일 때만 latest 태그가 함께 붙는다.
다만 이 커밋이 확인한 것은 버전 문자열과 모델 목록 출력까지다. 성능이나 정확도 수치는 커밋 기록에 없고, 추가된 llm_generated_docs/DOCKER.md와 DOCKER_VALIDATION_20261104.md의 본문도 이 기록에는 담기지 않았다. 이미지 기본 태그는 0.11.0이고 변경의 대상은 새 기능이 아니라 기존 릴리스의 배포 방식이므로, 어느 버전이 실제 배포 대상이 되는지는 릴리스 태그를 직접 확인해야 한다.