Devotd Github
릴리스Apple Silicon 추론

jundot/omlx v0.7.3 — DeepSeek V4.1·음성 대화·웹 검색 개선

jundot/omlx v0.7.3 릴리스는 DeepSeek V4.1 처리와 음성 대화·웹 검색 기능, 여러 요청의 메모리 사용 개선을 설명한다.

저장소 정보jundot/omlx ↗

Apple Silicon에서 LLM을 지속 배치와 SSD·KV 캐시로 제공하는 로컬 추론 서버입니다.

GitHub 설명: LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar

스타
★ 23.2K
포크
2.1K
언어
Python
라이선스
Apache-2.0
최신 릴리스
v0.7.3
원문 보기 ↗GitHub에서 보기 ↗

jundot/omlx v0.7.3은 2026년 10월 31일 공개된 릴리스다. 릴리스 정보는 DeepSeek V4.1 처리 개선, 음성 대화와 웹 검색 기능, 여러 요청의 메모리 사용 개선을 다룬다. 변경 내용의 출처는 jundot/omlx의 v0.7.3 릴리스다. 따라서 이번 업데이트의 핵심은 특정 모델 처리와 대화 기능, 여러 요청을 다룰 때의 메모리 사용에 걸쳐 있다.

jundot/omlx는 Apple Silicon용 LLM 추론 서버 저장소다. 저장소 설명에는 연속 배치와 SSD 캐시를 지원하며 macOS 메뉴바에서 관리된다고 적혀 있다. 이번 릴리스 설명은 이 서버의 개선 항목으로 DeepSeek V4.1 처리, 음성 대화, 웹 검색, 여러 요청의 메모리 사용을 함께 제시한다. 다만 각 항목의 구체적인 구현 방식은 주어진 릴리스 요약에 나오지 않는다. 이에 따라 확인 가능한 범위는 어떤 부분을 개선 대상으로 삼았는지까지다.

릴리스 요약에는 성능 수치나 비교 기준, 검증 조건이 제시되지 않는다. 그러므로 DeepSeek V4.1 처리가 얼마나 달라졌는지, 메모리 사용 개선의 폭이 어느 정도인지는 이 자료만으로 판단할 수 없다. 음성 대화와 웹 검색도 기능을 언급할 뿐, 사용 방법이나 제공 범위는 밝히지 않는다. v0.7.3은 개선 항목을 확인할 수 있는 업데이트지만, 실제 효과와 세부 동작은 릴리스 요약만으로 확정하기 어렵다.

같은 분야의 다른 프로젝트

Apple Silicon 추론 →