afdep/afdep-comm 是 AFD(Attention–FFN Disaggregation)配置的 expert-parallel 通信层,该配置将 Attention 与 FFN(前馈网络)放置在不同的 GPU 上。最新版本为 v1.0.0。不过,给出的仓库说明中并未列出这一版本有哪些新改动。
该仓库负责把令牌发送给专家并回传计算结果的通信。它是将 DeepEP V2 内核针对这两种角色调整后的研究实现,用 Python 编写。路由、专家计算和服务调度仍由调用方承担。因此它的重点不是完整的 MoE 推理系统,而是其中的通信路径。仓库基于相同的内核和执行流程给出对比测量,并区分说明了单个 NVLink 域内的路径与连接多个域的路径。许可证为 Apache-2.0。
测量结果所覆盖的范围仅限于仓库中给出的基准实现和执行流程。它并非展示包含路由或专家计算在内的整个系统性能的资料,因此难以作为超出这一范围的性能判断依据。v1.0.0 的具体变更内容在可查证的说明中同样没有,因此目前更适合将其视为用于了解该通信层实现和测量范围的资料。