虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们 热点资讯

伯克利开源AI编程冠军DeepSWE:强化学习打造,训练细节全揭秘

2025-07-07来源:ITBEAR编辑:瑞雪

在人工智能编程领域,一场革命性的突破正在悄然发生。新晋AI编程冠军DeepSWE,凭借其纯强化学习的训练方式,在基准测试中取得了59%的准确率,这一成绩大幅刷新了现有技术的上限。

DeepSWE的诞生,打破了长期以来闭源模型在该领域的垄断地位。这款开源软件工程模型,基于Qwen3-32B架构,完全通过强化学习进行训练,无需依赖任何“老师模型”。这一创新性的训练方法,使得DeepSWE能够从零开始,逐步成长为一个性能卓越的智能体。

DeepSWE的训练过程充满了挑战与创新。它采用了模块化RL后训练框架rLLM,这一框架使得用户能够轻松构建一个由强化学习训练的AI助手,极大地简化了训练流程。同时,DeepSWE在R2E-Gym训练环境中进行训练,该环境为高质量可执行软件工程(SWE)任务提供了可扩展的管理方案。

在动作空间方面,R2E-Gym定义了包括执行Bash命令、搜索、文件编辑和完成/提交等四个工具。这些工具共同构成了DeepSWE在训练过程中的操作基础。而奖励模型则采用了一种稀疏的结果奖励模型(ORM),通过简单的“成功/失败”奖励信号,DeepSWE自发地学会了高级程序员才具备的复杂行为,如主动思考边缘案例和回归测试,以及根据任务复杂程度自适应调整思考深度。

算法方面,DeepSWE摒弃了传统的蒸馏方法,仅使用强化学习进行直接训练。研发人员独家改良的GRPO++算法,在之前的基础上进行了增强,进一步提升了模型的稳定性和性能。还整合了包括Clip High (DAPO)、无KL损失(DAPO)、无奖励标准差(Dr.GRPO)、长度归一化(Dr.GRPO)、一法(Loop/RLOO)、紧凑过滤和无熵损失在内的七个算法,共同构成了DeepSWE的训练配方。

其中,“紧凑过滤”算法对模型训练尤为关键。它不仅有效防止了训练过程中的奖励崩溃,还减少了每一步的过度思考,鼓励跨步骤的长篇推理,从而显著提升了模型的性能。

然而,训练过程中也遇到了不少挑战。特别是在扩展SWE-Bench环境时,由于需要同时启动大量Docker容器,一度导致Docker崩溃。为了解决这一问题,研发人员将Kubernetes支持集成到了R2E-Gym环境中,实现了容器的高效调度。同时,为每个服务器配备了高性能硬件,并提前下载了所需软件镜像,以确保训练过程的顺利进行。

在评估策略方面,DeepSWE采用了“测试时扩展(TTS)”策略,通过多方案生成和智能验证的方式,将性能推向了新的高度。通过扩展上下文长度和扩展代理部署两种方法,DeepSWE在SWE-Bench Verified上达到了59%的准确率,实现了新的技术上限。

DeepSWE的成功,离不开其背后的研发团队。项目负责人Michael Luo,加州大学伯克利分校电气工程与计算机科学系博士生,对人工智能和系统领域有着深入的研究。他带领的团队,凭借出色的研发能力和创新精神,成功打造了这款开源软件工程模型。

DeepSWE的诞生,标志着人工智能编程领域的一次重大突破。它不仅刷新了技术的上限,更为未来的软件开发和智能化转型提供了无限可能。

苹果小米新机首月销售亮眼:iPhone 17与小米17齐头并进创佳绩
IT之家 11 月 15 日消息,市场调查机构 CounterPoint Research 昨日(11 月 14 日)发布博文,基于最新中国智能手机周度销量追踪报告,苹果与小米凭借各自的旗舰新品,在上市首月的…

2025-11-15

华为Mate X7或本月登场 首发20GB超大内存 配色丰富性能强劲
11月份的机圈将会是华为的主场,不仅新一代的直板旗舰华为Mate80系列会震撼亮相,还会有迭代的大折叠屏手机华为Mate X7发布。@定焦数码爆料,华为Mate X7将会首发定制20GB超大内存,这是华为史…

2025-11-15

苹果联名iPhone Pocket:争议中售罄,高价能否续写品牌忠诚传奇?
苹果与日本时尚品牌三宅一生日前联名推出的iPhone Pocket(iPhone 口袋)11月14日正式开售,1299元至1899元的定价引发全网热议,成为科技圈与时尚圈跨界合作的又一争议焦点。尽管争议不断,…

2025-11-14

iPhone 17系列上市两月中国市场激活破千万,配置亮眼预售火爆
2025年11月14日,知名数码博主“数码闲聊站”爆料称,iPhone 17系列于本周完成中国市场激活超1000万台。 据了解,iPhone 17系列于2025年9月10日苹果秋季发布会推出,含标准版、Air…

2025-11-14

中芯国际三季度业绩亮眼:月产能破百万,全年收入或创新高
赵海军指出,中国区收入的显著增长主要受益于国内产业链自主化进程加快,为应对客户紧急需求,公司及时优化了产能分配策略。赵海军补充表示,在当前国内企业加速替代海外供应链的背景下,公司长期合作的客户成功把握了市场机…

2025-11-14

iPhone17系列销售势头猛 本周国内激活量或冲破1000万台大关
【CNMO科技消息】11月14日,据数码博主爆料称,iPhone17系列国内激活量将于本周突破1000万台。截至11月2日,该系列在国内的激活数量已突破825万台,其中iPhone 17 Pro Max约3…

2025-11-14

小尺寸也有大能量!vivo X300全方位体验测评
测试中平均帧率为61帧,5% Low帧为60帧,全程几乎没有变化——小屏机的游戏性能完全不需要担心。 续航测试,vivo X300从100%到20%的电量区间内连续运行了6小时54分,对于小尺寸机型来说是合…

2025-11-14

2025年游戏手机大比拼:OPPO Find X9、红魔10 Pro、一加13谁更胜一筹?
如果你是追求极致游戏体验,对游戏性能、续航和散热都有极高要求的重度游戏玩家,那么 OPPO Find X9 系列是你的首选。 而如果你想要一款配置较为均衡,在游戏性能、屏幕显示和续航等方面都有不错表现的手机…

2025-11-13

华为PC业务双线并行:鸿蒙PC加速突破,智选PC延续Windows生态
11月13日消息,虽然有了鸿蒙PC,但华为似乎短期并不想放弃Windows系统。 有博主给出的消息显示,华为在PC业务上仍将维持“鸿蒙PC”与“智选PC”双线并行的策略,短期内不会放弃基于Windows系统的…

2025-11-13