github.devotd.
新着LLMインフラ

deepseek-ai/deepep-ascend — Ascend NPU 向け通信ライブラリ

deepseek-ai/deepep-ascend が Ascend NPU 向けの MoE 通信経路と試作開発キットでの性能数値を公開した内容。

リポジトリ情報deepseek-ai/deepep-ascend ↗

A high-performance communication library for machine learning training and inference on Huawei Ascend NPUs.

スター
★ 260
フォーク
32
言語
C++
原文を見る ↗GitHub で見る ↗

deepseek-ai/deepep-ascend は、Huawei Ascend NPU で機械学習の学習と推論に用いる通信ライブラリだ。混合エキスパートモデル(MoE)のエキスパート並列処理でトークンと結果をやり取りする経路を低レベルカーネルで処理する。リポジトリの説明と README によれば、NVIDIA 版 DeepEP の公開バッファ API に合わせた Ascend 用実装である。

この実装はトークンをエキスパートへ送るディスパッチと、結果を返すコンバイン通信を扱う。FP8 ディスパッチとレイテンシエピローグを含み、パイプライン並列とコンテキスト・データ並列向けの Bucket 集合通信、および Engram リモートメモリアクセスも通信機能として提供する。Ascend C カーネルは HCCL、HCOMM、UBMEM、URMA を使い、DeepJIT で実行時にコンパイルされる。したがって NVIDIA 版とバッファ API を合わせつつ、Ascend のソフトウェアスタックを使う移植である。

README の性能表は Ascend 950DT と CANN 9.2.0 で測定したものである。条件はランクあたり 16384 トークン容量、隠れサイズ 7168、256 エキスパートから上位 6 個を選択。ディスパッチ帯域は並列度 8 で毎秒 373〜375 GB、並列度 128 で毎秒 313〜320 GB と示された。ただしこの結果は DeepSeek に提供された試作開発キット(PoC HDK)を手動で設定した環境で得られたものである。商用ボードのベースラインは 2026 年 10 月中旬公開予定で、他の Ascend 世代や CANN バージョンの測定値はない。コンバイン側の最適化も残っており、現在の性能数値は特定の試作環境における参考値と捉えるのが妥当である。