github.devotd.
새 소식추론/서빙

google/xnnpack — ARM·x86·WebAssembly·RISC-V용 SIMD 추론 커널

google/xnnpack은 ARM·x86·WebAssembly·RISC-V에서 부동소수점 신경망 추론 연산을 최적화해 TensorFlow Lite·PyTorch 같은 상위 프레임워크를 가속하는 저수준 C 라이브러리다.

저장소 정보google/xnnpack ↗

google/xnnpack은 ARM·x86·WebAssembly·RISC-V에서 부동소수점 신경망 추론 연산을 최적화해 TensorFlow Lite·PyTorch 같은 상위 프레임워크를 가속하는 저수준 C 라이브러리다.

GitHub 설명: High-efficiency floating-point neural network inference operators for mobile, server, and Web

스타
★ 2.5K
포크
574
언어
C
라이선스
NOASSERTION
원문 보기 ↗GitHub에서 보기 ↗

google/xnnpack은 모바일·서버·웹 환경의 부동소수점 신경망 추론 연산자를 고속으로 처리하는 저수준 C 라이브러리다. 이번에 볼 대상은 GitHub 저장소 자체이며, 제공된 기록에는 릴리스 버전과 변경 내역이 없다.

라이브러리 이름은 XNNPACK이다. 이 라이브러리는 ARM, x86, WebAssembly, RISC-V 네 플랫폼에서 신경망 추론을 최적화한다. 각 아키텍처에 SIMD(여러 연산을 한 묶음으로 처리하는 명령 집합) 커널을 따로 두고, 같은 모델 연산도 하드웨어에 맞는 경로로 실행되게 한다. TensorFlow Lite, TensorFlow.js, PyTorch, ONNX Runtime, ExecuTorch, MediaPipe 같은 상위 머신러닝 프레임워크의 실행을 받치는 저수준 성능 프리미티브를 제공한다. README는 이 라이브러리가 딥러닝 실무자나 연구자가 직접 쓰는 도구가 아니라고 밝힌다. 모델을 고르는 라이브러리가 아니라 이미 정한 모델의 실행 경로를 가속하는 계층이다. 저장소는 2019년 9월 13일에 시작됐고 별은 2482개다.

다만 확인되지 않는 부분이 크다. 라이선스 항목이 NOASSERTION으로 남아 있어 구체적인 이용 조건은 알 수 없다. 자체 성능을 비교한 수치도 자료에 없고, 리서치 기록의 모멘텀 지표는 10점 만점에 2.1로 낮게 나온다. 라이선스 조건과 자체 검증 자료가 확인되기 전까지는 이 저장소를 채택 근거로 삼기 어렵다.