Devotd Github
リリース汎用ローカルエンジン

ggml-org/llama.cpp b11870 — DeepSeek-V4 Flash を正式サポート

ggml-org/llama.cpp b11870 は、DeepSeek-V4 Flash の正式サポート、n-gram テーブルのフォーマット変更、圧縮されたキーバリューの読み取り最適化を含むリリースだ。

リポジトリ情報ggml-org/llama.cpp ↗

大規模言語モデルをローカル実行する汎用 C/C++ 推論エンジンです。

GitHub の説明: LLM inference in C/C++

スター
★ 132.3K
フォーク
24.8K
言語
C++
ライセンス
MIT
最新リリース
2026年10月25日
原文を見る ↗GitHub で見る ↗

ggml-org/llama.cpp の b11870 リリースは DeepSeek-V4 Flash モデルを正式にサポートする。リポジトリの説明では C/C++ ベースの LLM 推論プロジェクトだと説明している。今回の変更には n-gram テーブルのフォーマット変更も含まれている。圧縮されたキーバリューを読むときに一度だけ計算するようにする最適化も一緒に盛り込まれた。変更内容の出典は GitHub の ggml-org/llama.cpp b11870 リリースだ。リリース日は 2026 年 10 月 25 日だ。したがって、このバージョンで確認できる要点は新しいモデルサポートと 2 つの推論に関する変更である。

n-gram テーブルはフォーマットが変わり、圧縮されたキーバリューの処理には読み取り計算を 1 回に減らす最適化が適用された。ただし、提供されたリリース要約は新しいテーブルフォーマットの具体的な構造や以前のフォーマットとの互換方式を説明していない。圧縮されたキーバリューの最適化が適用される詳細経路や比較基準も示していない。したがって、ここで確認できるのは変更の種類と要約された意図までだ。具体的な実装範囲はリリース要約だけでは判断しにくい。

リリース要約には DeepSeek-V4 Flash のサポートが明記されているが、対応対象デバイスや設定は示されていない。性能測定値や品質の比較も提供された事実には含まれない。よって b11870 の正式サポートを特定の環境における速度や品質の改善として読む根拠はない。このリリースはモデルサポートと処理方法の変更を知らせるアップデートであり、実際の性能と互換性は要約に示されていない範囲にとどまる。

リリース

niko1221/strata v0.2.2 — グラフィックスカードの Gyro 対応と RX 6000 エンジンパッケージ

コンシューマーハードウェアで Qwen3.8-Flash-Next を実行する Strata の v0.2.2 には、Intel Arc と Mac のグラフィックスカードにおける Gyro 対応、NVIDIA カードでの Gyro 高速化、RX 6000 シリーズ向けエンジンパッケージ、アプリとターミナルのモデルフォルダ共有が含まれた。

同じ分野の他のプロジェクト

汎用ローカルエンジン →