Devotd Github
새 소식추론/서빙

vecszn/polystrata v0.1.45-poly.6 — 두 엔진 기반 PC 모델 실행기

vecszn/polystrata v0.1.45-poly.6는 두 엔진으로 9개 AI 모델을 PC에서 실행하는 로컬 추론 도구다.

저장소 정보vecszn/polystrata ↗

vecszn/polystrata v0.1.45-poly.6는 두 엔진으로 9개 AI 모델을 PC에서 실행하는 로컬 추론 도구다.

GitHub 설명: Run large AI models on your own PC: Qwen3.8-Flash-Next on Strata's engine, and GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder and MiniCPM-V on a second engine written for PolyStrata. One-click install for Windows and Linux, OpenAI/Anthropic API on localhost.

스타
★ 623
포크
95
언어
C++
라이선스
MIT
최신 릴리스
v0.1.45-poly.6
원문 보기 ↗GitHub에서 보기 ↗

vecszn/polystrata는 일반 PC에서 대형 AI 모델을 구동하는 로컬 추론 실행기다. Qwen3.8-Flash-Next는 Strata 엔진으로 실행하고, GLM 5.3 Flash와 DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder, MiniCPM-V는 PolyStrata용으로 작성한 두 번째 엔진으로 지원한다. GitHub에 표시된 최신 릴리스는 v0.1.45-poly.6이다. 제공된 정보에는 이 릴리스에서 바뀐 내용이 없어 변경 사항은 확인할 수 없다.

README에 따르면 두 엔진으로 9개 모델을 지원하며, 서버 실행 중 설치된 모델을 바꿀 수 있다. Windows와 Linux용 원클릭 설치를 제공하고, 로컬에서 OpenAI 및 Anthropic 호환 API를 열어 앱과 코딩 에이전트에 연결할 수 있다. 따라서 모델 실행뿐 아니라 기존 도구와 연결하는 구성이 프로젝트의 용도다. 저장소는 C++로 작성됐고 MIT 라이선스로 공개된다.

다만 Qwen3.8-Flash-Next 경로는 Strata 엔진을 활용하므로 새로움은 주로 여러 모델과 설치·연결 방식을 한데 묶은 데 있다. 두 번째 엔진은 README가 32GB 그래픽 카드 한 대와 8GB 노트북 한 대에서만 시험했다고 밝힌 실험 단계다. 제시된 처리 속도 수치도 스크린샷의 라벨이며 재현 절차는 코드에 남아 있지 않다. 그러므로 성능을 일반적인 PC 환경에 그대로 적용하기보다 지원 범위와 검증 수준을 함께 봐야 한다.