deepseek-ai/flashmla

FlashMLA는 NVIDIA GPU와 화웨이 어센드 NPU에서 DeepSeek-V4.1 추론을 지원하는 어텐션 커널 라이브러리다.

GitHub 설명: FlashMLA: Efficient Multi-head Latent Attention Kernels

스타

★ 13.2K

포크

1.2K

언어

C++

라이선스

MIT