DeepSeek,重磅突发!

时间 • 2025-06-01 10:38:14
支持
推理
用于

2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于MoE模型训练推理的开源EP通信库。

特点有:高效的全员沟通;节点内和节点间均支持NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生FP8调度支持;灵活的GPU资源控制,实现计算-通信重叠。

来源:每日经济新闻