deepseek-ai/flashmla

FlashMLA は NVIDIA GPU と Huawei Ascend NPU 上で DeepSeek-V4.1 の推論に対応するアテンションカーネルライブラリである。

GitHub の説明: FlashMLA: Efficient Multi-head Latent Attention Kernels

投稿

新着10月25日

FlashMLA は NVIDIA GPU と Huawei Ascend NPU 上で DeepSeek-V4.1 の推論に対応するアテンションカーネルライブラリである。