近日，摩尔线程开源了MTGDRCopy、MTSHMEM、MCCL和MT DeepEP四个通信库，覆盖显存访问、对称共享内存通信、多GPU与多节点集合通信、MoE专家并行等通信场景，形成覆盖底层访问到专家并行的完整通信栈。
GPU通信库衔接计算设备、互联网络与上层AI框架，是构建高效分布式AI训练与推理系统的重要基础。此次开源开放了核心通信能力和工程实现，进一步完善了MUSA通信软件栈。开发者可通过开源仓库获取源码、理解通信路径，便于完成验证与集成。
- 功能覆盖更完整
四个通信库分别覆盖不同抽象层次的通信需求。通信能力从主机—显存数据访问、进程间通信、集合通信扩展到专家并行，为MUSA应用提供更完整的选择空间。
- 性能路径更贴近硬件
开发者可以围绕实际GPU拓扑、网络配置和数据依赖进行调优，充分利用GPU互联和网络能力参与通信决策。
- 使用和协作更直接
此次开源同步提供源码、构建安装说明、示例和测试工具，可以帮助开发者快速完成编译、验证、集成和性能调优。
MTGDRCopy：面向小消息低延迟的显存直访
MTGDRCopy面向小数据量、低延迟通信场景，将GPU显存映射到CPU用户态地址空间，支持主机低延迟直接访问显存。此次开源内容包括内核模块、用户态库和测试程序，开发者可通过公开仓库获取源码，完成构建、运行与功能验证。
在能力层面，MTGDRCopy针对小消息H2D写入提供写合并路径，适用于需要频繁交换小规模数据的计算环节。
▼ MTGDRCopy开源仓库
https://github.com/MooreThreads/mtgdrcopy
MTSHMEM：面向多进程与多节点的对称共享内存通信
MTSHMEM面向多进程、多节点GPU作业，提供基于PGAS模型的单边通信、同步、原子操作和集合通信能力。此次开源内容包括源码构建、示例和perftest测试工具，开发者可据此完成MTSHMEM功能的验证与性能测试。
在通信路径上，MTSHMEM支持节点内P2P、节点间远程传输以及GPU发起的IB通信，适用于多进程协作的分布式作业。
▼ MTSHMEM开源仓库
https://github.com/MooreThreads/mtshmem
MCCL：面向多GPU与多节点的拓扑感知集合通信
MCCL是面向单机及跨节点多GPU场景的高性能通信库，提供集合通信、点对点通信与远程内存访问能力，结合拓扑感知、通信路径优化和计算通信重叠，为分布式训练、推理及高性能计算提供高效通信支撑。MCCL提供多种打包方式及mccl-tests测试入口，便于开发者在不同部署环境下完成构建与验证。
在通信覆盖上，MCCL支持PCIe、MTLink和InfiniBand等通信路径，适用于多种互联方式并存的多GPU与多节点部署环境。
▼ MCCL开源仓库
https://github.com/MooreThreads/mccl
MT DeepEP：面向MoE专家并行的通信加速
MT DeepEP面向MoE模型专家并行，提供dispatch/combine通信能力，覆盖训练、Prefill和Decode等场景。MT DeepEP提供MUSA版本安装脚本、快速开始示例和验证脚本，帮助开发者完成编译、验证与集成。
在实现层面，MT DeepEP将MTLink、RDMA、MTSHMEM和IBGDA组合到MoE专家并行路径中，完成专家之间的token分发与结果合并，适用于MoE模型在训练与推理阶段的专家并行部署。
▼ MT DeepEP开源仓库
https://github.com/MooreThreads/MT-DeepEP
开放共建MUSA通信软件生态
摩尔线程此次开源的四个通信库各有分工，可在分布式AI软件栈中协同工作：MTGDRCopy和MTSHMEM提供底层显存与远程通信能力，MCCL提供通用集合通信能力，MT DeepEP则面向MoE工作负载封装专家并行通信流程。四库协同后，开发者可在同一软件栈内完成从显存访问到专家并行的通信调用，并按业务场景选择对应的通信库。
开源的价值不仅在于代码可见，也在于让更多开发者能够理解通信路径、复现问题、提出改进，并将优化经验反馈到更广泛的应用场景。欢迎开发者通过开源仓库了解实现细节、运行示例和测试工具，并通过Issues等渠道反馈使用问题。
未来，摩尔线程将持续完善MUSA平台的通信能力，加强与编译器、运行时、分布式框架和AI应用的协同演进，携手开发者、合作伙伴和开源社区，共同推进MUSA通信生态的繁荣发展。
版权声明：本文内容转自互联网，本文观点仅代表作者本人。本站仅提供信息存储空间服务，所有权归原作者所有。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至1393616908@qq.com 举报，一经查实，本站将立刻删除。
