Devotd Github
新着推論・サービング

ingeniousidiocy/ds4-v41-m3ultra — DeepSeek V4.1 FlashのMetal実行

antirez/ds4のDwarfStarを土台に、Apple Metal向けの最適化と実行設定を備えたDeepSeek V4.1 Flashリポジトリです。

リポジトリ情報ingeniousidiocy/ds4-v41-m3ultra ↗

antirez/ds4のDwarfStarを土台に、Apple Metal向けの最適化と実行設定を備えたDeepSeek V4.1 Flashリポジトリです。

GitHub の説明: DeepSeek V4.1 Flash on the Apple M3 Ultra: Metal decode and prefill kernels, DSpark speculative decoding, KV disk store. Built on antirez/ds4 (upstream base bd66c40).

スター
★ 10
フォーク
3
言語
C
ライセンス
MIT
最新リリース
v41-video
原文を見る ↗GitHub で見る ↗

ingeniousidiocy/ds4-v41-m3ultraは、DeepSeek V4.1 FlashをApple Metal上で実行するよう最適化されたC言語のリポジトリです。antirez/ds4のDwarfStarを基盤に、Metalのデコード・プリフィルカーネル、DSparkの投機的デコード、KVデータをディスクに保存する機能を追加しています。土台となった上流コードはコミットbd66c40です。最新のリリース表記はv41-videoですが、提供された資料にはそのリリースの変更内容が記載されていません。

このリポジトリの焦点は、モデル実行と画像入力の経路を最適化し、各最適化項目を比較できるようにすることです。READMEは最適化を58のグループに分け、それぞれを無効化できるスイッチを提供すると説明しています。正確性を優先する実行モードと再現手順、Metal実装の説明文書も案内しています。READMEによれば、512GB M3 Ultraで8K文脈を基準とした処理速度は毎秒41.4トークンです。ライセンスはMITです。

ただし、処理速度はREADMEに記載されたリポジトリ自身の測定結果であり、独立に確認された数値ではありません。示された値は512GB M3 Ultraと8K文脈の条件に限られます。READMEは他のハードウェア条件での測定がないこと、およびその後の変更によって比較画像の数値が現在のデフォルト設定と異なる場合があることを示しています。したがってこの結果は該当構成における参考値であり、他の環境の性能を保証する基準ではありません。