Devotd Github
リリース汎用ローカルエンジン

ggml-org/llama.cpp b11819 — Nemotron モデルのサポート変更

ggml-org/llama.cpp の release b11819 は Nemotron モデルの非標準なグループクエリ Attention、BPE トークナイザ、ドメイン辞書の設定に対応し、metaspace の接頭方式を GGUF メタデータに記録する。

リポジトリ情報ggml-org/llama.cpp ↗

大規模言語モデルをローカル実行する汎用 C/C++ 推論エンジンです。

GitHub の説明: LLM inference in C/C++

スター
★ 132K
フォーク
24.7K
言語
C++
ライセンス
MIT
最新リリース
2026年10月22日
原文を見る ↗GitHub で見る ↗

ggml-org/llama.cpp は C/C++ ベースの LLM 推論リポジトリである。release b11819 は、Nemotron モデルの非標準なグループクエリ Attention と BPE トークナイザ、ドメイン辞書の設定に対応したビルドである。metaspace の接頭方式も GGUF メタデータとして記録される。これは 2026 年 10 月 22 日に公開された GitHub リリースタグに記された変更内容である。

変更点はモデル処理に関係するサポート項目として提示されている。グループクエリ Attention は Nemotron モデルで非標準な形式に対応すると明記され、BPE トークナイザとドメイン辞書の設定も併せて含まれている。metaspace の接頭方式は独立した機能の説明ではなく、GGUF メタデータに記録されるという点が資料の内容である。ドメイン辞書の設定がどのドメインを対象とするのか、辞書の構成形式がどのようなものかは示されていない。したがって、このリリースで確認できるのは、対応または記録される形式と設定の種類に限られる。

提供された情報には、各機能の実装範囲や設定方法、対応モデルの一覧はない。性能・精度の比較や以前のビルドとの比較結果も示されていない。したがって、この変更だけで推論速度や結果品質が変化したと判断する根拠はない。Nemotron モデルに関するサポート項目を確認できるリリースだが、実際の効果や適用条件は詳細な資料がないままでは判断しにくい。

リリース

niko1221/strata v0.2.2 — グラフィックスカードの Gyro 対応と RX 6000 エンジンパッケージ

コンシューマーハードウェアで Qwen3.8-Flash-Next を実行する Strata の v0.2.2 には、Intel Arc と Mac のグラフィックスカードにおける Gyro 対応、NVIDIA カードでの Gyro 高速化、RX 6000 シリーズ向けエンジンパッケージ、アプリとターミナルのモデルフォルダ共有が含まれた。

同じ分野の他のプロジェクト

汎用ローカルエンジン →