DeepSeek的开源周活动在第四天迎来了高潮，公司一次性发布了三个开源项目：DualPipe、EPLB（专家并行负载均衡算法）以及性能分析数据。这些项目不仅在技术上实现了重大突破，还吸引了全球极客的关注与支持。

DualPipe：消除“停顿”的双向协作

DualPipe是一种创新的双向流水线并行算法，首次在DeepSeek-V3技术报告中提出。该算法通过将前向计算与后向计算完全重叠，显著减少了流水线空泡（Pipeline Bubbles），从而大幅提升了训练效率。

• 技术原理：通过双向流水线并行算法，DualPipe让前向计算与反向计算完全重叠，消除了GPU等待时间。

• 效果：将训练效率提升最高达11倍，仅需2048块Nvidia H800 GPU即可实现其他方案需要更昂贵硬件的性能。

EPLB：专家模型的“动态调度舞台监督”

EPLB是DeepSeek-V3训练框架中实际使用的专家并行负载均衡算法。该算法基于对专家负载的估算，计算出一个平衡的专家复制和分配方案，确保所有GPU满负荷运转，闲置率趋近于零。

• 技术原理：通过冗余专家策略复制高负载专家，并结合分层负载均衡（预填充阶段）和全局负载均衡（解码阶段），动态分配任务到不同GPU。

• 效果：确保所有GPU满负荷运转，减少跨节点通信开销，提升资源利用率。

性能分析数据：深入了解底层技术细节

为了帮助开发者更深入地了解通信-计算重叠策略以及底层技术细节，DeepSeek选择开源其训练和推理框架中收集的性能分析数据。这些数据通过PyTorch Profiler采集，开发者下载后可直接在Chrome或Edge浏览器中进行可视化分析。

创始人亲自参与开发

值得一提的是，DeepSeek创始人梁文峰亲自参与了DualPipe项目的开发。这一举动不仅展示了公司对技术创新的重视，也吸引了全球极客的广泛关注。有网友评价道：“这种老板亲自参与到大模型底层代码级别的，恐怕全球只有一个了。”

全球极客的狂欢

DeepSeek的开源项目不仅提升了AI训练的效率与资源利用率，还吸引了全球极客的关注与支持。公司推出的“失败勋章”制度，并将看家算法开源到GitHub，更是激发了极客们的热情，自发组建护卫队，共同推动AI技术的发展。

DeepSeek的开源周活动不仅展示了公司在AI技术领域的创新能力，也为全球极客提供了一个共同学习与进步的平台。未来，随着更多开源项目的发布，DeepSeek将继续引领AI技术的发展潮流。