github.devotd.
リリース汎用ローカルエンジン

ggml-org/llama.cpp 2026-10-20 更新まとめ: トークナイザと Metal MoE の修正

2026 年 10 月 20 日の llama.cpp の 3 件のリリース(b11753~b11756)を、トークナイザ正規表現の補完、Metal MoE カーネルの修正、Anthropic 変換経路での id_slot 受け渡しの修正としてまとめた。

リポジトリ情報ggml-org/llama.cpp ↗

大規模言語モデルをローカル実行する汎用 C/C++ 推論エンジンです。

GitHub の説明: LLM inference in C/C++

スター
★ 131.8K
フォーク
24.6K
言語
C++
ライセンス
MIT
最新リリース
2026年10月20日
原文を見る ↗GitHub で見る ↗

llama.cpp は C/C++ で大規模言語モデル(LLM)の推論を行い、スターは 131822 個のプロジェクトです。2026 年 10 月 20 日の 1 日で b11753 から b11756 までの 3 つのリリースが出され、個別にまとまったコミットグループはありません。3 件はそれぞれ別の層に触れています。b11753 は Tekken と GPT-4o のプリトークナイザ(pre-tokenizer、テキストをトークン単位に分割する段階)の正規表現に \p{M} を追加し、結合文字の表記を扱える範囲を広げました。b11755 は、Metal でトークンごとに 9 個のエキスパートを使う MoE(Mixture of Experts、トークンごとに一部のエキスパートだけが計算に参加する方式)カーネルの欠落していた変種を修正しました。

残る 1 件はサーバー動作に関わります。Anthropic 仕様の /v1/messages リクエストを内部の OpenAI 形式へ変換する際に id_slot が抜けていたため、KV キャッシュを持つスロットを指定したリクエストが自動選択へ切り替わり、キャッシュの再計算が発生していました。他の completion エンドポイントは id_slot をそのまま受け取るため、この問題は特定のプロトコル変換経路に限られた非対称性でした。修正に合わせて、指定したスロットが実際に使われることを確認するテストも追加されています。b11753 のビルドには、複数の CPU・GPU・モバイル環境向けの実行ファイルも同梱されます。

根拠はリリースノートの変更リストのみです。b11755 の修正は Apple Silicon の実行経路における該当カーネルの処理に限定され、b11753 の正規表現拡張が実際のトークン化結果に与える影響は比較数値として示されていません。パフォーマンスや精度の指標も併記されていません。したがって、このまとめはトークナイザ範囲の補完と特定経路のバグ修正と読むのが妥当であり、全体性能にどこまで波及するかは判断が早いところです。

同じ分野の他のプロジェクト

汎用ローカルエンジン →