tencent/ncnn 是一个针对移动平台优化的高性能神经网络推理框架。该仓库的目的是让推理(运行已训练模型的阶段)也能在手机上完成。它使用 C++ 编写,GitHub 发布中的最新标签是日期形式的版本 20261020。由于发布记录中没有变更内容,无法得知该标签究竟改动了什么。
README 将 ncnn 描述为针对移动、嵌入式和桌面部署优化的框架。其要点在于不依赖第三方运行时,并且同时提供 CPU 与 Vulkan GPU 后端(在 GPU 上运行模型的路径)。使用 pnnx 可以将 PyTorch 和 ONNX 模型转换为 ncnn 模型,部署目标覆盖手机、PC、浏览器和边缘设备,范围很广。GitHub 星标数为 23985 个,仓库创建于 2017 年 6 月 30 日。
不过,仍有一些难以判断的地方。发布 20261020 的性能指标和基准测试未见于资料之中。许可证仅被归类为 NOASSERTION,具体条款无法确认。研究记录的评分为 10 分制,其中只有 momentum 为 3.0,而新鲜度、技术、质量各项未予计算。在评估移动与边缘设备部署时,它接近于一个值得考察的选项,但仅凭这份资料难以判断该仓库在哪些设备和模型上能够达到何种水平。