새 소식
hardenedlinux/sonicboom v0.0.2 — 파이썬 없는 CUDA 텐서 런타임
hardenedlinux/sonicboom은 C++와 CUDA로 만든 네이티브 텐서 런타임으로, README의 제한된 비교에서 디코드는 llama.cpp보다 빨랐고 프리필은 느렸다.
SonicBoom is an AI framework written from the ground up in C++ and CUDA, for workloads where performance matters. Everything is exposed through a stable C ABI, and GNU Guile is its first-class language.
GitHub에서 보기 ↗hardenedlinux/sonicboom은 C++와 CUDA로 만든 네이티브 텐서 런타임으로, README의 제한된 비교에서 디코드는 llama.cpp보다 빨랐고 프리필은 느렸다.
조건에 맞는 소식이 없습니다.