DeepSeek，重磅突发！（微信文章未删减版）

主要观点总结

DeepSeek宣布推出新的开源代码库DeepEP，这是全球首个专门用于MoE模型训练和推理的开源EP通信库。

DeepEP具有高效的全员沟通功能，支持节点内和节点间的NVLink和RDMA通信。它拥有用于训练和推理的高吞吐量内核以及用于推理解码的低延迟内核。此外，DeepEP还提供了原生FP8调度支持和灵活的GPU资源控制，能够实现计算与通信的重叠。

作为首个用于MoE模型训练和推理的开源EP通信库，DeepEP的推出将促进MoE模型的研究和发展，加速人工智能领域的进步。

该消息来源于每日经济新闻，并由胡婧编辑，经过易福进、陈祥旺的审核，刘子纯进行校对。

2月25日，DeepSeek官宣，今日开源代码库为DeepEP，它是首个用于 MoE 模型训练和推理的开源EP通信库。

特点有高效的全员沟通；节点内和节点间均支持 NVLink和RDMA；用于训练和推理预填充的高吞吐量内核；用于推理解码的低延迟内核；原生 FP8 调度支持；灵活的GPU资源控制，实现计算-通信重叠。

※ 编辑：胡婧 ※ 审核：易福进陈祥旺

※ 校对：刘子纯

※ 来源：每日经济新闻

点和点

传递最新消息

↓↓↓

推荐文章