github.devotd.
릴리스추론/서빙

nace-ai/kapitsa v0.1.36 — 모델 요구 사항과 벤치마크 표 정리

nace-ai/kapitsa v0.1.36은 모델별 요구 사항과 비교 벤치마크 표를 정리하고 M1의 스레드 설정 문제와 macOS 14 빌드 호환성을 다뤘다.

저장소 정보nace-ai/kapitsa ↗

Blazing fast Apple Silicon optimized inference engine built for Qwen and Nemotron. OpenAI + Anthropic API compatible. Built by folks from nace.ai

스타
★ 95
포크
1
언어
C++
라이선스
Apache-2.0
최신 릴리스
v0.1.36
원문 보기 ↗GitHub에서 보기 ↗

nace-ai/kapitsa v0.1.36은 Apple Silicon에서 Qwen과 Nemotron 추론을 겨냥한 엔진의 업데이트다. 이번 릴리스는 모델별 요구 사항과 메모리 정보를 정리하고, 모델 간 비교 벤치마크 표를 다듬었다. 또 M1에서 커널을 컴파일하는 스레드 수와 실행 스레드 수가 다를 때 서버가 중단되는 문제를 다뤘으며, macOS 14 빌드 호환성도 보완했다. 변경 내용은 GitHub의 v0.1.36 릴리스 기록에 적혀 있다.

Kapitsa는 Apple Silicon에 최적화된 추론 엔진으로 소개되며, Qwen과 Nemotron을 대상으로 한다. OpenAI 및 Anthropic API와 호환되는 인터페이스도 제공한다고 저장소 설명은 밝힌다. 이번 변경 중 모델별 요구 사항과 메모리 정리는 사용 전에 필요한 조건을 확인하게 하고, 비교 벤치마크 표는 모델 간 결과를 살펴볼 자료를 정돈한 내용이다. 다만 제공된 사실에는 표의 실제 수치나 측정 조건이 없다.

따라서 이번 릴리스에서 확인되는 것은 문서와 표의 정리, M1 스레드 설정에 따른 서버 중단 문제, 그리고 macOS 14 빌드 호환성 보완이다. 표를 정리했다는 사실만으로 특정 모델의 우위나 실제 추론 속도를 판단할 수는 없다. 성능 수치와 측정 환경은 주어진 릴리스 요약에 제시되지 않았으며, 소개된 대상도 Apple Silicon 기반의 Qwen·Nemotron 추론이다. 그러므로 이를 다른 하드웨어나 모델까지 포괄하는 성능 평가로 읽기보다는, 명시된 환경에 대한 변경 기록으로 보는 편이 정확하다.