antirez/ds4は、Redis作者antirezが作ったCベースのローカル推論エンジンです。DwarfStarという名で、DeepSeek V4 Flashと4.1 Flash、DeepSeek V4 PRO、GLM 5.2と5.3およびFlash、Qwen3.8 Flash Nextに対応しています。Metal・CUDA・ROCmを対象とし、MITライセンスで公開されました。特定のモデルに範囲を限定したプロジェクトです。
このエンジンは、一般的なGGUFランナーのように任意のモデルファイルを幅広く実行するのではなく、ドキュメントに挙げられた数種類のモデルを対象としています。メモリが不足する場合はSSDストリーミングを使い、主な対象はメモリ96GB以上のMacとStrix Haloです。複数枚のGPUカードで複数ユーザー構成のサーバーを組む方法も文書化されています。RDMAで接続した2台の128GB Macでテンソル並列を行う構成や、パイプライン並列で複数システムのメモリをまとめる構成も提示しています。READMEは、8層L40Sと16セッションの 조합で集計生成速度約126トークン/秒を基準値として報告しています。3つのバックエンド対応は実行デバイス選択肢を広げますが、モデルの選択肢はドキュメントに記載された範囲に限定されます。
この数値は自身の構成で得た基準値であり、コミットごとに再測定したものではありません。独立した検証結果は示されておらず、他の環境での性能を示すものでもありません。したがって、複数のハードウェア構成に具体的に対応している一方、性能優位が確認された汎用ランナーではなく、対応モデルと設備が決まったエンジンと捉えるほうが正確です。