github.devotd.
새 소식추론/서빙

paddlepaddle/paddle-lite — 모바일·엣지용 추론 엔진

paddlepaddle/paddle-lite는 PaddlePaddle 모델을 모바일·임베디드·엣지 기기에서 실행하고 최적화하는 경량 추론 프레임워크다.

저장소 정보paddlepaddle/paddle-lite ↗

paddlepaddle/paddle-lite는 PaddlePaddle 모델을 모바일·임베디드·엣지 기기에서 실행하고 최적화하는 경량 추론 프레임워크다.

GitHub 설명: PaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎)

스타
★ 7.3K
포크
1.6K
언어
C++
라이선스
Apache-2.0
최신 릴리스
v2.14-rc
원문 보기 ↗GitHub에서 보기 ↗

paddlepaddle/paddle-lite는 PaddlePaddle 모델을 모바일·임베디드·엣지 기기에서 실행하는 경량 딥러닝 추론 프레임워크다. FACTS에 기재된 최신 릴리스는 v2.14-rc다. 다만 해당 릴리스에서 무엇이 바뀌었는지는 제공된 자료에 없어 변경 내용을 특정할 수 없다. 저장소 설명은 다양한 하드웨어 플랫폼을 지원하는 엔진으로 소개한다.

이 프로젝트는 모델을 기기에 배포할 때 필요한 변환과 실행 경로를 함께 제공한다. opt 도구는 양자화, 서브그래프 융합, 커널 선택으로 모델을 최적화한다. 양자화는 모델의 숫자 표현을 바꾸는 방식이고, 서브그래프 융합은 여러 연산을 묶는 최적화다. PaddlePaddle 모델 형식은 직접 지원하며, 다른 프레임워크의 모델은 X2Paddle로 PaddlePaddle 형식에 변환할 수 있다. 실행용 인터페이스로 C++·Java·Python API를 제공하고 여러 플랫폼의 사용 예제도 담고 있다. 저장소의 언어는 C++이며 라이선스는 Apache-2.0이다.

저장소는 2017-09-20에 만들어졌고 별 수는 7289개다. 파이프라인의 모멘텀 점수는 1.1/10이며, 신기술·기술성·품질 점수는 제공되지 않았다. 제공된 사실에는 성능 수치나 다른 추론 엔진과의 비교도 없다. 따라서 최적화 도구의 존재는 확인되지만, 실제 성능 이득이나 v2.14-rc의 구체적인 변화는 이 자료만으로 판단할 수 없다.