afdep/afdep-comm

afdep/afdep-comm v1.0.0 提供了在分离 Attention 与 FFN 的配置中交换令牌与结果的通信层。

GitHub 项目说明: Expert-parallel communication for Attention–FFN Disaggregation (AFD), built on DeepEP V2

星标

★ 30

复刻

0

语言

Python

许可证

Apache-2.0

最新版本

v1.0.0