“nccl” 相关开源项目

面向 MoE 专家并行的 GPU 通信库，提供 dispatch 与 combine 所需的高吞吐、低延迟 all-to-all 内核。