github.devotd.
新发现推理与服务

tensorflow/tflite-micro — 面向低内存设备的深度学习运行时

tensorflow/tflite-micro 是一个 C++ 项目,设计用于在内存受限的裸机系统、DSP 和微控制器上运行模型。

仓库信息tensorflow/tflite-micro ↗

Infrastructure to enable deployment of ML models to low-power resource-constrained embedded targets (including microcontrollers and digital signal processors).

星标
★ 3.1K
复刻
1.1K
语言
C++
许可证
Apache-2.0
查看原始来源 ↗在 GitHub 查看 ↗

tensorflow/tflite-micro,也称 TensorFlow Lite for Microcontrollers(TFLM),是一个 C++ 项目,设计用于在内存受限的裸机系统、DSP 和微控制器上运行深度学习模型。它采用 Apache-2.0 许可证,所提供的记录中没有最新发布版本,因此无法作为某个特定版本的变更来介绍。

该项目瞄准的是在只有数十至数百 KB 内存的嵌入式系统上运行模型。它以通过 LiteRT 和 TensorFlow 转换得到的模型为目标,被描述为在内存与算力受限的设备上驱动深度学习的 TinyML 运行时。CI 中测试的架构包括 Arm Cortex-M、Cadence Xtensa、RISC-V、Qualcomm Hexagon 以及 x86/Windows。因此,它并非只限于某一种 MCU 的实现,而是一个支持多种嵌入式与开发环境的项目。

不过,该记录并未给出性能基准、每个模型的内存占用或精度变化。所提到的内存规模和架构列表来自 README 的说明,并非独立的测量结果。在实际部署中哪些模型能以多少内存运行,仅凭这份材料无法判断,发布状态也未得到确认。