hardenedlinux/sonicboom は C++ と CUDA でゼロから書かれたネイティブテンソルランタイムである。リポジトリの README は現在の状態を v0.0.2 と示している。Python を介さず共有ライブラリと安定した C ABI で機能を提供し、最初の言語バインディングとして GNU Guile を採用している。
このランタイムはモデル推論のための計算段階を計画・実行する。README によれば、デコードは CUDA Graph の再生で処理され、KV キャッシュは GPU デバイス上に置かれる。プランナーは正規化・活性化・量子化を融合し、量子化行列乗には ggml カーネルを使用する。README はコアの規模を C++ と CUDA 合計 17.7k 行と説明している。同じリポジトリには、PyTorch のコードジェネレータ torchgen を Guile で書き直した SonicCross もある。README の RTX 3050 8GB 比較は、llama.cpp のコミット 43fe9c64281 と同一の GGUF およびセッションを使用し、3 回測定の中央値を示している。Gemma 4 E4B-it Q3_K_M のデコードは 52.7 対 44.8 tok/s（1.18 倍）、Qwen2.5-0.5B-Instruct Q4_K_M は 344.7 対 307.9 tok/s（1.12 倍）であった。
同じ比較ではプリフィルはそれぞれ 0.84 倍、0.91 倍で llama.cpp より遅かった。検証範囲は CUDA sm_86 と 2 つのモデル系に限定される。README は、プレフィックスキャッシュ再利用の正しさは速度ベンチマークではなく test_prefix_cache テスト（12/12）で確認したと区別している。したがってデコードの数値は限定された環境での比較結果であり、この資料だけから他の GPU やモデルでも優位だとはいえない。