Devotd Github
リリース推論・サービング

justvugg/colibri v2.1.0 — GGUF と実行パスの拡張

純 C の MoE 推論エンジン justvugg/colibri が v2.1.0 で GGUF 実行、CUDA・Vulkan パス、複数モデル対応、チャット画面を拡張した。

リポジトリ情報justvugg/colibri ↗

純 C の MoE 推論エンジン justvugg/colibri が v2.1.0 で GGUF 実行、CUDA・Vulkan パス、複数モデル対応、チャット画面を拡張した。

GitHub の説明: Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦

スター
★ 45.4K
フォーク
5.2K
言語
C
ライセンス
Apache-2.0
最新リリース
v2.1.0
原文を見る ↗GitHub で見る ↗

justvugg/colibri v2.1.0 は GGUF 実行、CUDA・Vulkan パス、複数モデル対応、チャット画面を拡張したリリースである。変更内容は 2026-10-31 に公開された GitHub リリースノートに記載されている。colibri はユーザーが持つハードウェア上で MoE モデルを実行する純 C エンジンで、依存関係がなく、専門家重みをディスクからストリーミングする、とリポジトリの説明は述べている。

このプロジェクトの目的は、大きな MoE モデルをすでに持っているハードウェアで実行することにある。純 C による実装と依存関係のない構成、ディスクから専門家を読み込む方式は、リポジトリが示す設計の中核である。リリースノートは、今回の v2.1.0 では GGUF 実行のみならず CUDA・Vulkan パスと複数モデル、チャット画面も拡張したと述べている。提供されたリリース概要は、各パスの具体的な動作条件や対応範囲については説明していない。

長いコンテキストの処理と推論速度に関する数値は、リリース作者が公開した測定値である。公開された概要だけでは、測定条件や比較対象は分からない。したがって、これらを独立に検証された結果や他のハードウェアにも適用される性能保証として読むことは難しい。今回のリリースで確認できる変化は実行パスとモデルおよびチャット画面の拡張であり、公開された測定値だけでは一般的な性能向上まで断定できない。