github.devotd.
새 소식추론/서빙

tensorflow/tflite-micro — 저메모리 기기용 딥러닝 런타임

tensorflow/tflite-micro는 메모리가 제한된 베어메탈 시스템과 DSP, 마이크로컨트롤러에서 모델을 실행하도록 설계된 C++ 프로젝트다.

저장소 정보tensorflow/tflite-micro ↗

Infrastructure to enable deployment of ML models to low-power resource-constrained embedded targets (including microcontrollers and digital signal processors).

스타
★ 3.1K
포크
1.1K
언어
C++
라이선스
Apache-2.0
원문 보기 ↗GitHub에서 보기 ↗

tensorflow/tflite-micro는 TensorFlow Lite for Microcontrollers(TFLM)로, 메모리가 제한된 베어메탈 시스템과 DSP, 마이크로컨트롤러에서 딥러닝 모델을 실행하도록 설계된 C++ 프로젝트다. Apache-2.0 라이선스를 사용하며, 제공된 기록에는 최신 릴리스 버전이 없어 특정 버전의 변경 사항으로 소개할 수 없다.

이 프로젝트가 겨냥하는 것은 수십~수백 킬로바이트 메모리를 가진 임베디드 시스템에서의 모델 실행이다. LiteRT와 TensorFlow를 통해 변환한 모델을 대상으로 하며, 메모리와 연산 자원이 제한된 기기에서 딥러닝을 구동하는 TinyML 런타임으로 설명된다. CI에서 테스트되는 아키텍처로 Arm Cortex-M, Cadence Xtensa, RISC-V, Qualcomm Hexagon, x86/Windows가 제시되어 있다. 따라서 특정 MCU 한 종류에만 한정된 구현이라기보다 여러 임베디드·개발 환경을 지원 대상으로 둔 프로젝트다.

다만 이 기록에는 성능 벤치마크나 모델별 메모리 사용량, 정확도 변화가 제시되지 않는다. 메모리 규모와 아키텍처 목록은 README의 설명이며 독립 측정 결과는 아니다. 실제 배포에서 어떤 모델이 어느 정도의 메모리로 동작하는지는 이 자료만으로 판단할 수 없고, 릴리스 현황도 확인되지 않는다.