Devotd Github
릴리스범용 로컬 엔진

niko1221/strata v0.2.9 — DeepSeek 세트 선택과 처리 개선

niko1221/strata v0.2.9는 Unsloth 1비트 DeepSeek 세트 선택과 특정 환경의 프롬프트 처리 및 병렬 요청 개선을 담은 릴리스다.

저장소 정보niko1221/strata ↗

Qwen3.8-Flash-Next를 여러 GPU와 Apple 기기에서 로컬 실행하는 설치형 추론 엔진입니다.

GitHub 설명: Qwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. Strata inference engine, OpenAI/Anthropic API on localhost, optional image input.

스타
★ 36.7K
포크
4K
언어
C++
라이선스
MIT
최신 릴리스
v0.2.9
원문 보기 ↗GitHub에서 보기 ↗

niko1221/strata v0.2.9는 Unsloth 1비트 DeepSeek 세트 선택, Strix Halo의 프롬프트 처리 개선, 리눅스 엔비디아 카드의 병렬 요청 개선을 담았다. GitHub 릴리스 본문은 앱 버전 0.2.9와 엔진 패키지 버전 0.1.55를 구분해 제시한다. 따라서 이번 변경은 릴리스에 적힌 세 항목과 두 구성요소의 버전을 기준으로 읽을 수 있다. 소스는 v0.2.9 릴리스 안내다.

Strata는 소비자용 하드웨어에서 Qwen3.8-Flash-Next를 사용할 수 있도록 하는 추론 엔진 프로젝트다. 저장소 설명에는 Windows와 Linux용 원클릭 설치가 안내되어 있다. 또한 localhost에서 OpenAI 및 Anthropic API를 제공하고, 선택적으로 이미지 입력을 지원한다고 적혀 있다. 이번 릴리스의 DeepSeek 세트 선택은 이 프로젝트에 추가된 선택지이며, Strix Halo의 프롬프트 처리와 리눅스 엔비디아 카드의 병렬 요청은 각각 개선 대상으로 명시됐다. 저장소 설명은 제품의 사용 범위를 보여주지만, 이 항목들만으로 특정 장치에서의 성능을 판단할 수는 없다.

릴리스 요약에는 세 변경의 구체적인 개선 폭이나 측정 결과가 제시되지 않았다. Strix Halo와 리눅스 엔비디아 카드에 관한 내용도 해당 환경의 처리 개선이라는 범위로 확인된다. 따라서 이를 모든 하드웨어에서의 속도 향상이나 응답 품질 개선으로 확대해 해석할 근거는 없다. 확인 가능한 것은 v0.2.9에 적힌 선택 기능과 두 처리 경로의 변경이며, 성능 효과는 제공된 정보만으로 평가하기 어렵다.

같은 분야의 다른 프로젝트

범용 로컬 엔진 →