Devotd Github
새 소식추론/서빙

yuhuanstudio/yunshu — CI 콘솔 venv에 import 패키지 8종 고정

Yunshu의 최신 커밋은 CPU 전용 CI 콘솔 테스트 환경에 OpenAPI 덤프가 필요로 하는 패키지 8종을 고정 버전으로 추가한다.

저장소 정보yuhuanstudio/yunshu ↗

Yunshu의 최신 커밋은 CPU 전용 CI 콘솔 테스트 환경에 OpenAPI 덤프가 필요로 하는 패키지 8종을 고정 버전으로 추가한다.

GitHub 설명: Fast local LLM / VLM inference engine for Apple Silicon (MLX). OpenAI- and Anthropic-compatible, lossless speculative decoding (DFlash2 / MTP), hybrid-model prefix cache with RAM/SSD tiers, native Claude Code / Codex / opencode support. Qwen3.8-27B tuned first.

스타
★ 3
포크
0
언어
Python
라이선스
Apache-2.0
최신 릴리스
v0.1.5
원문 보기 ↗GitHub에서 보기 ↗

Yunshu는 Apple Silicon의 MLX를 기반으로 동작하는 로컬 LLM/VLM 추론 엔진이며, OpenAI와 Anthropic 호환 API를 노출한다. 2026년 11월 1일 커밋(3aa49cd)은 런타임 코드가 아니라 CI 설정만 건드린다. `.github/workflows/ci.yml`의 CPU 전용 콘솔 테스트 의존성 설치 단계에서 OpenAPI 덤프가 가져오는 패키지를 빠짐없이 고정 버전으로 설치하도록 한 줄을 고쳤다.

이 단계는 리눅스 CI에서 MLX가 없기 때문에 CPU 전용 파이썬으로 콘솔을 빌드해 OpenAPI 스키마를 덤프하는 곳이다. 기존 fastapi 0.143.0, httpx 0.28.1, uvicorn 0.54.0, websockets 17.2, numpy 2.5.4 옆에 python-multipart 0.0.32, xxhash 4.0.1, jsonschema 4.26.0, openai 3.31.0, psutil 7.2.2, regex 2026.9.29, lxml 6.1.3, prometheus-client 0.26.0이 추가됐다. 커밋 메시지는 새 가상환경에서 이 목록을 실제로 설치해 확인했다고 밝힌다. 이 파이썬은 문서 생성용 변수(DOCS_PYTHON)로도 등록돼 있어, OpenAPI 덤프의 임포트 누락을 CI 단계에서 먼저 드러내는 변경이다.

다만 이번 커밋은 의존성 목록 한 줄의 편집이고 추론 경로는 건드리지 않는다. 저장소 설명에 있는 DFlash2/MTP 기반 손실 없는 추측 디코딩(speculative decoding)이나 RAM·SSD 2단 프리픽스 캐시(hybrid-model prefix cache)의 성능은 이 변경으로 확인할 수 없고, 벤치마크 수치도 제시되지 않았다. CI의 콘솔 빌드는 CPU 전용 파이썬에서 돌아 MLX 경로는 그대로 남아 있다. 라이선스와 인기도 수치도 자료에 없다. 커밋 메시지에는 'Co-Authored-By: Claude Opus 5.5' 표기가 함께 붙어 있다. 이번 변경은 스키마 생성이 안정적으로 도는 범위의 환경 정리에 가깝고, 추론 성능과 직결된 개선으로 읽기에는 이르다.