Devotd Github
新着推論・サービング

vecszn/polystrata v0.1.45-poly.6 — 2つのエンジンで動かすPCモデルランナー

vecszn/polystrata v0.1.45-poly.6 は、2つのエンジンで9つのAIモデルをPC上で実行するローカル推論ツール。

リポジトリ情報vecszn/polystrata ↗

vecszn/polystrata v0.1.45-poly.6 は、2つのエンジンで9つのAIモデルをPC上で実行するローカル推論ツール。

GitHub の説明: Run large AI models on your own PC: Qwen3.8-Flash-Next on Strata's engine, and GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder and MiniCPM-V on a second engine written for PolyStrata. One-click install for Windows and Linux, OpenAI/Anthropic API on localhost.

スター
★ 623
フォーク
95
言語
C++
ライセンス
MIT
最新リリース
v0.1.45-poly.6
原文を見る ↗GitHub で見る ↗

vecszn/polystrata は、一般的なPCで大型AIモデルを動かすローカル推論ランナーだ。Qwen3.8-Flash-Next は Strata エンジンで実行し、GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder、MiniCPM-V は PolyStrata のために書き起こした2つ目のエンジンでサポートする。GitHub に表示されている最新リリースは v0.1.45-poly.6 だ。提供された情報にはこのリリースで変更された内容が示されておらず、変更点は確認できない。

README によれば、2つのエンジンで9つのモデルに対応し、サーバー実行中にインストール済みモデルを切り替えられる。Windows と Linux 用の一键インストーラーを提供し、ローカルで OpenAI および Anthropic 互換 API を公開してアプリやコーディングエージェントに接続できる。つまり、このプロジェクトの用途はモデル実行だけではなく、既存ツールと接続する構成を用意することにある。リポジトリは C++ で書かれ、MIT ライセンスで公開されている。

ただし Qwen3.8-Flash-Next の経路は Strata エンジンを活用しているため、新しさは主に複数のモデルとインストール・接続の方法をひとまとめにした点にある。2つ目のエンジンは実験段階で、README は 32GB のグラフィックスカード1台と 8GB のノートPC1台でのみ試験したと明言している。提示された処理速度の数値もスクリーンショットのラベルで、再現手順はコードに残っていない。したがって、その性能をそのまま一般的なPC環境に当てはめるより、対応範囲と検証の水準を併せて確認する必要がある。