nipegun/moe-gguf-serverは2026年11月3日のコミット(6a9e2d0)でリポジトリをそのまま追加した。新規追加671,979行、削除0行で、コミットメッセージは“Tokens... My precious!”だ。このプロジェクトはGGUF形式のMoE(Mixture of Experts、1つのモデルの中で複数の下位モデルを分けて処理する構造)モデルをローカルで実行し、ウェブチャットとHTTP推論APIを提供するサーバーである。
READMEはllama.cppとFreeTokenに言及し、MoEモデルで可能な最速の推論速度を目標とすると述べている。バックエンドはCMakeベースのC++コードで、Vulkan(AMD·Intel·NVIDIA)、CUDA(NVIDIA)、ROCm(AMD)のビルド経路をそれぞれサポートする。arm64 Linux・macOS・Windows向けと、riscv64(SpacemiT Linux)用のツールチェインファイルも入った。mgsが読むGGUFアーキテクチャとしてqwen35moe(Qwen3.6)、glm-dsa(GLM-5.3)、kimi-k3(Kimi-K3)、deepseek41(DeepSeek-V4.1-Flash)、minimax-m3(MiniMax-M3)、flint(Flint)が列挙されている。backend/commonにはchat-peg-parserやchat-diff-analyzerなどのチャットパーサー・変更点解析モジュールが含まれ、READMEは15言語版も併せて提供する。
同じコミットで追加されたLICENSEはPolyForm Noncommercial License 1.0.0である。個人利用と非営利組織(慈善団体、教育機関、公共研究・安全・保健機関、政府機関)の利用は許可されるが、商業目的の対象からは外れ、ライセンスのサブリセンスと譲渡も禁止される。「最速の推論」という目標を支えるベンチマーク数値は本コミットには存在せず、READMEもスクリーンショットがまだ追加されていないと明言している。配布はroot権限を必要とするDebian 13専用のインストールスクリプトで案内され、ROCmビルドにはHIP 6.1以上が必要なため、Debian 13標準パッケージ(HIP 5.7)だけではそのままビルドできない。すなわち、性能の根拠を確認できない状態に、商業利用を阻む条件までTogether重なった次第である。