github.devotd.
新着推論・サービング

tencent/ncnn 20261020 — C++ ベースのモバイル向けニューラルネットワーク推論フレームワーク

第三者ランタイム依存なしで CPU と Vulkan GPU バックエンドを提供する C++ ニューラルネットワーク推論フレームワーク ncnn の範囲と、最新リリースタグ 20261020 を整理する。

リポジトリ情報tencent/ncnn ↗

第三者ランタイム依存なしで CPU と Vulkan GPU バックエンドを提供する C++ ニューラルネットワーク推論フレームワーク ncnn の範囲と、最新リリースタグ 20261020 を整理する。

GitHub の説明: ncnn is a high-performance neural network inference framework optimized for the mobile platform

スター
★ 24K
フォーク
4.5K
言語
C++
ライセンス
NOASSERTION
最新リリース
20261020
原文を見る ↗GitHub で見る ↗

tencent/ncnn はモバイルプラットフォームに最適化された高性能なニューラルネットワーク推論フレームワークである。このリポジトリの目的は、学習済みモデルを実行する段階である推論(inference)をスマートフォンでも行えるようにすることにある。C++ で書かれており、GitHub リリースにおける最新タグは日付形式のバージョン 20261020 である。リリース記録に変更内容が載っていないため、このタグが何を変えたかは分からない。

README は ncnn をモバイル、エンベデッド、デスクトップのデプロイに最適化されたフレームワークと説明している。ポイントは第三者ランタイムへの依存がないこと、そして CPU と Vulkan GPU バックエンド(GPU 上でモデルを実行する経路)の両方を提供していることである。pnnx を使えば PyTorch や ONNX のモデルを ncnn モデルに変換でき、デプロイ対象はスマートフォン、PC、ブラウザ、エッジデバイスと広い。GitHub スター数は 23985 個、リポジトリの作成日は 2017 年 6 月 30 日である。

ただし判断に迷う点もある。リリース 20261020 の性能数値とベンチマークは資料に掲載されていない。ライセンスは NOASSERTION としか分類されておらず、具体的な条件は確認できない。研究記録のスコアは 10 点満点で、モメンタムのみ 3.0 であり、新鮮度・技術・品質の項目は算出されていない。モバイルやエッジデバイスへのデプロイを検討する際に確認する価値のある選択肢に近いものの、このリポジトリがどのデバイス・モデルでどの水準に動作するかは、この資料からは判断しにくい。

リリース

niko1221/strata v0.2.2 — グラフィックスカードの Gyro 対応と RX 6000 エンジンパッケージ

コンシューマーハードウェアで Qwen3.8-Flash-Next を実行する Strata の v0.2.2 には、Intel Arc と Mac のグラフィックスカードにおける Gyro 対応、NVIDIA カードでの Gyro 高速化、RX 6000 シリーズ向けエンジンパッケージ、アプリとターミナルのモデルフォルダ共有が含まれた。