虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们 热点资讯

DeepSeek开源新进展:揭秘DualPipe与EPLB并行策略优化

2025-02-27来源:ITBEAR编辑:瑞雪

在科技界的一次重要动向中,DeepSeek公司在近期宣布了其“开源周”活动的深入进展,于2月27日揭晓了第四日的开源成果——专注于优化并行策略的一系列技术创新。

此次公开的技术亮点涵盖了DualPipe,这是一种专为V3/R1训练设计的双向流水线并行算法,旨在通过计算与通信的重叠,显著提升效率。同时,EPLB作为V3/R1的专家并行负载均衡器,为资源分配提供了更为智能的解决方案。DeepSeek还深入分析了V3/R1中的计算通信重叠现象,为进一步优化提供了理论基础。

回顾整个“开源周”,DeepSeek的每一步都备受瞩目。活动自2月24日启动以来,已陆续向公众开放了多个核心代码库。首日,Flash MLA作为首个开源项目,为机器学习领域注入了新的活力。紧接着,在2月25日,DeepSeek推出了DeepEP,这是一个专为MoE(混合专家)模型训练和推理设计的EP通信库,进一步推动了模型处理能力的边界。

而到了2月26日,DeepSeek再次发力,开源了DeepGEMM库。这一库支持FP8(8位浮点数)通用矩阵乘法运算,不仅适用于密集型计算,还完美契合混合专家(MoE)架构,为高性能计算领域带来了新的可能。

DeepSeek的这一系列开源举措,不仅展示了其在人工智能领域的深厚积累,也体现了其开放共享、推动行业进步的企业精神。随着“开源周”的持续深入,更多前沿技术有望被更多开发者所掌握,共同推动技术的创新与发展。

稚晖君携上纬启元亮相:全球最小力控人形机器人启元Q1开启共创时代
它重新定义了小型化人形机器人的可能性,旨在打造个人可拥有、可使用、可创作的机器人形态,为个人机器人市场注入全新活力,也为未来的商业场景提供了更多想象空间。新品牌“上纬启元”将明确聚焦“个人机器人”方向,致力于…

2026-01-01

小米WATCH 5评测:双芯双传感器加持 打造健康运动新标杆
小米WATCH旗舰产品的正代许久没有更新了,上代还是以S4 Sprot来命名,小米WATCH 5与小米17 Ultra同台亮相,足以说明它的定位不低,在健康方面首发EMG肌电信号传感器,并增配ECG心电传感…

2026-01-01

百度集团-SW股价攀升,文心5.0领跑AI,萝卜快跑拓展全球新市场
在港股市场,百度集团-SW(09888.HK)今日表现抢眼,盘中股价一度上涨超过7%,引发投资者的广泛关注。截至发稿时,该股涨幅维持在6.8%左右,报127.2港元,成交额达到9.54亿港元,总市值攀升至34…

2026-01-01