虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们 热点资讯

字节跳动拟训练超5万亿参数大模型 核心骨干领衔欲争行业领先位

2026-08-07来源:互联网编辑:瑞雪

据科技行业内部消息透露,字节跳动正酝酿一项雄心勃勃的人工智能计划——开发参数规模突破5万亿的超大模型。这一数字不仅远超阿里巴巴近期发布的Qwen 3.8-Max(2.4万亿参数)和月之暗面公司推出的K3(2.8万亿参数),更将刷新国内大模型参数规模纪录。不过知情人士强调,该项目尚处于概念验证阶段,最终是否落地仍存在不确定性。

该项目的核心推动力量来自字节跳动人工智能研究院Seed Foundation。据内部人士披露,项目将由算法专家项亮领衔,与预训练数据负责人沈科组成技术攻坚小组。为保障项目推进,Seed部门正在进行组织架构调整,重新划分研发团队职责并优化资源配置。这种"双核心"架构设计,既保证了算法创新与数据工程的协同,也体现了字节跳动对超大模型训练的系统性布局。

两位技术负责人均具有深厚的"搜广推"(搜索、广告、推荐)技术背景。项亮作为中科院自动化所博士,2016年加入字节后先后主导机器学习中台和豆包大模型基础架构建设,在分布式训练系统设计方面经验丰富。沈科则是清华大学2018届毕业生,专注大规模预训练数据构建,其团队开发的数据清洗与增强技术曾显著提升模型训练效率。这种技术组合被业内视为"算法-数据"双轮驱动的典型配置。

关于选择超大规模参数的技术路线,接近项目组的人士分析称,当前大模型领域已进入"军备竞赛"阶段,单纯提升现有模型尺寸难以形成质变优势。字节跳动选择将参数规模直接提升至行业平均水平的两倍以上,旨在通过规模效应构建技术壁垒,在多模态理解、复杂推理等前沿领域争取先发优势。这种"跨越式发展"策略,与该公司过往在短视频推荐、广告算法等领域的技术突破路径一脉相承。

行业观察人士指出,训练5万亿参数模型面临多重挑战:不仅需要数万张高端GPU的算力支持,更涉及分布式训练框架优化、数据管道重构等系统工程难题。即便模型成功训练,如何实现高效推理部署、控制算力成本也是关键考验。字节跳动若能突破这些技术瓶颈,或将重新定义国内大模型的技术天花板,为AI应用生态带来新的想象空间。

iPhone 18 Pro系列下月登场:十二项升级亮点抢先看 2nm芯片领衔
虽然外观方面,iPhone 18 Pro系列与iPhone 17 Pro系列整体保持一致,但实际上的升级并不小,至少有12项主要升级。N2芯片:预计将搭载苹果下一代N2芯片,以支持Wi-Fi 7、蓝牙6.…

2026-08-07

英伟达再推创新:SSD作额外显存,开源cuFile API助力AI与游戏升级
IT之家注:cuFile API 是 NVIDIA GPUDirect Storage 技术中的接口组件,用于让应用访问 GPU直连存储能力,目标是让存储数据在毫秒级抵达 GPU。 cuFile 于 20…

2026-08-07

三星ISOCELL HPC图像传感器登场:2亿像素大底,多技术加持提升成像品质
该传感器拥有2亿像素,感光元件尺寸达到1/1.3英寸,原生支持16bit RAW输出,并首创DeepPix架构,带来更为宽广的动态范围表现。 该传感器可根据光线环境灵活输出不同像素的样张,在充足光照下可输出2…

2026-08-07

字节押注超5万亿参数大模型,张一鸣力挺原创路线:拒绝蒸馏,着眼AGI长远布局
过去半年,Seed的多模态模型取得了显著成绩:今年 2 月上线的视频生成模型 Seedance2.0和图片生成模型Seedream 5.0Lite声量一度超过业内其他同类模型,迅速引发关注。据The in…

2026-08-07

华为nova16 SE 8月12日开售:大电池长续航,影像护眼等多亮点齐聚
仅智能手机上,华为已拥有4大系列,每个系列保持多版本发展,让各大机型定位更精准。考虑到新机优势,不断推出新技术与新功能,比如巨鲸电池、红枫影像、AI修图、星盾安全、昆仑玻璃等方面,助力新机发展。 还有一颗1…

2026-08-07

华为MateBook Pro S超轻薄本登场:麒麟芯加持,隐私屏与长续航成亮点
华为推出新款 MateBook Pro S 超轻薄笔记本,其最低配置版本重量仅为 798 克,较 13 英寸 MacBook Air 轻约35%。华为宣称其支持长达 18 小时的 1080p 视频播放,并…

2026-08-07

2026上半年全球高端手机市场:苹果夺冠,三星份额升,国产品牌增速亮眼
据Counterpoint分析,苹果在2026上半年实现了9%的同比增长,主要受益于iPhone 17系列的强劲表现,尤其是标准版机型。苹果在高端市场的份额从2022上半年的74%降至2026上半年的65%…

2026-08-07