虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们

国产大模型“闪电”追平GPT-4o,只用2000张GPU?

2024-10-18来源:ITBEAR编辑:瑞雪

在AI大模型领域,一场关于预训练成本的较量正悄然上演。近期,国内知名大模型公司零一万物发布了其最新的预训练旗舰模型——Yi-Lightning,号称“闪电”,在国际权威榜单LMSYS上一举超越了OpenAI今年5月发布的GPT-4o和Anthropic的Claude 3.5 Sonnet,排名世界第六,中国第一。

这一成就标志着中国大模型在全球竞争中取得了突破性进展,零一万物紧随OpenAI、Google之后,跻身全球前三大模型企业行列。

Yi-Lightning不仅在性能上有所提升,其推理速度也实现了质的飞跃。相比上半年发布的Yi-Large,首包时间减少了一半,最高生成速度提升了近四成,堪称“极速”。同时,该模型的推理成本也大幅降低,每百万token仅需0.99元,接近行业最低价。

Yi-Lightning的出色表现得益于零一万物在多个维度上的扎实储备,包括芯片人才、推理人才、基础架构人才和算法人才等。这使得零一万物在面对大模型预训练的高门槛时,依然能够坚持“模基共建”的战略,不断推动模型性能的优化和推理成本的降低。

在LMSYS Chatbot Arena总榜上,Yi-Lightning的成绩同样出众。它超越了国内外多个优质模型,包括xAI发布的Grok-2-08-13、智谱发布的GLM-4-Plus等,在中文分榜上与世界第二名的模型并列。在多轮对话、数学能力、代码能力等多个分榜上,Yi-Lightning也取得了世界前列的优异成绩。

零一万物之所以能够在短时间内取得如此显著的进步,与其独特的混合专家模型架构(MoE)和一系列技术创新密不可分。例如,Yi-Lightning采用了混合注意力机制(Hybrid Attention),旨在平衡模型在处理长序列数据时的性能和计算资源消耗。同时,动态Top-P路由机制的引入也使得Yi-Lightning能够更加智能地适应各种任务需求,实现“极速推理”。

随着Yi-Lightning的发布,零一万物在AI大模型领域的应用探索也进一步扩展。其最新推出的AI 2.0数字人产品已接入Yi-Lightning,在零售和电商等场景中展现出强大的实时互动能力和话术生成能力。某酒旅企业在接入该数字人直播后,GMV较此前上升了170%。

Yi-Lightning的推出不仅彰显了中国在大模型领域的强大技术实力,也为中国大模型公司的发展提供了新的思路。即坚持“模型+AI Infra+应用”三位一体的全栈式布局,以国际领先的基座模型为基础,积极探索企业级解决方案,推动整个大模型行业形成健康的生态。

目前,Yi-Lightning已上线Yi大模型开放平台(https://platform.lingyiwanwu.com/),每百万token仅需0.99元,支持开发者与企业客户轻松实现SOTA大模型自由。这一举措无疑将进一步推动大模型技术的普及和应用。

零一万物的成功也引发了对中国大模型行业未来发展的深入思考。在算力受限的情况下,中国基座模型的研发能力如何追赶国外顶尖大模型?零一万物的实践表明,通过技术创新和全栈式布局,中国大模型公司有望在全球竞争中脱颖而出,打造新质生产力。

展望未来,随着大模型技术的不断发展和普及,其应用场景也将更加广泛。零一万物将继续坚持“模基共建”的战略,不断探索大模型在各个领域的应用潜力,为推动人工智能技术的发展和应用贡献自己的力量。

小鹏P7+量产爬坡成功,首批车辆广州下线!
10月18日消息,小鹏汽车董事长何小鹏今日宣布,小鹏P7+自预售以来订单表现火爆,目前已经完成量产实际爬坡,今天小鹏P7+首批量产车在广州生产基地已经正式下线,同时小鹏P7+也在陆续发往全国门店。据I…

2024-10-18

小猿学练机全渠道热销,销量已破百万台大关!
鞭牛士 10月18日消息,据洛图科技近期数据,截至今年9月,小猿学练机全渠道销量突破百万台,达到103.8万台。…

2024-10-18

微软OpenAI合作传闻有变?密切关系或现裂痕
当 OpenAI 从微软获得巨额投资时,它同意了一项独家协议,从微软购买计算能力,并与这家科技巨头密切合作开发新的人工智能。 据七位知情人士透露,在过去一年里,这家人工智能公司多次试图谈判降低成本,并允许它从…

2024-10-18