新着
hardenedlinux/sonicboom v0.0.2 — Python 不要の CUDA テンソルランタイム
hardenedlinux/sonicboom は C++ と CUDA で書かれたネイティブテンソルランタイムだ。README の限定された比較ではデコードが llama.cpp より速く、プリフィルは遅かった。
SonicBoom is an AI framework written from the ground up in C++ and CUDA, for workloads where performance matters. Everything is exposed through a stable C ABI, and GNU Guile is its first-class language.
GitHub で見る ↗hardenedlinux/sonicboom は C++ と CUDA で書かれたネイティブテンソルランタイムだ。README の限定された比較ではデコードが llama.cpp より速く、プリフィルは遅かった。
該当するニュースはありません。