面向 MoE 专家并行的 GPU 通信库，提供 dispatch 与 combine 所需的高吞吐、低延迟 all-to-all 内核。
1万1481CudaMIT更新于 4天前
#rdma
“rdma” 相关开源项目
与 rdma 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
共 2 个仓库
把你的多台设备连成一个 AI 集群，在本地运行更大的模型。
4.8万3568PythonApache-2.0更新于 7天前
#rdma
与 rdma 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
面向 MoE 专家并行的 GPU 通信库，提供 dispatch 与 combine 所需的高吞吐、低延迟 all-to-all 内核。
把你的多台设备连成一个 AI 集群，在本地运行更大的模型。