虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们 热点资讯

面壁智能联合发布BitCPM-CANN:国产算力助力端侧大模型显存红利大释放

2026-05-26来源:互联网编辑:瑞雪

面壁智能近日携手清华大学、OpenBMB开源社区,共同推出并开源了其在低比特大模型训练领域的突破性成果——BitCPM-CANN。这一三值(1.58-bit)大模型不仅是中国首个完全基于国产算力平台华为昇腾实现端到端训练的模型,更在技术层面实现了重要突破。

在5月23日的华为鲲鹏昇腾开发者大会(KADC 2026)上,BitCPM-CANN首次亮相便引发了广泛关注。如今,面壁智能决定将这一成果的全系列模型向全社会开放,为端侧大模型的发展注入新的活力。与传统BF16精度相比,BitCPM-CANN在推理阶段能够释放约6倍的显存红利,同时将模型能力保留率维持在90%至97.2%的高水平。这意味着,在相同的设备内存下,可以承载更强大的模型能力;或者,在保持相同模型能力的情况下,所需内存仅为过去的六分之一。

这一技术突破对于端侧设备,尤其是手机来说,具有重大意义。以手机为例,未来有望在手机上运行参数规模达到60B的大模型,这将极大提升手机的智能化水平。目前,“2-bit”量化已成为端侧芯片行业的研究热点,也是实现手机上运行更大参数模型的关键技术瓶颈之一。通过2-bit量化,模型权重可以被压缩6至8倍,从而能够存入手机闪存。例如,4GB内存的手机可以存放16B的模型,若配合MoE与激活范围约束技术,甚至可以存放32B的模型;若内存扩大至8GB,则模型参数可扩展至60B。

面壁智能表示,BitCPM-CANN的发布标志着其高效大模型“小钢炮”在端侧落地能力上的进一步提升。通过开源这一成果,面壁智能不仅展示了自身在低比特大模型训练领域的技术实力,更为中国端侧大模型赛道的发展贡献了一份新的力量。这一成果的开放,将有助于推动端侧大模型技术的普及和应用,为智能设备的未来发展开辟新的道路。

三星T9移动固态硬盘:3米跌落验证实力,防摔耐用与速度安全兼得
三星T9移动固态硬盘:以3米跌落测试为标尺,重新定义可靠与耐用在众多移动固态硬盘中,三星T9移动固态硬盘以严苛的3米跌落测试为验证基准,将防摔从参数转化为实绩——它不是实验室里的理想值,而是反复锤炼后的工程承…

2026-05-25

Ilya再引热议:思考者立于AI芯片之海,AGI时代真的要来了吗?
刚刚,AI圈最神秘的精神领袖Ilya,在Instagram上传了一幅画。 这才是最新一轮OpenAI式狂欢的核心:一边在数学前沿撕开口子,一边让AI接管程序员的电脑,一边把自己推向可能是AI史上最重磅的上市…

2026-05-25

华为麒麟2026芯片将登场:逻辑折叠技术加持,性能能效双飞跃
IT之家 5 月 25 日消息,在今日的国际电路与系统研讨会(ISCAS 2026)上,华为公司董事、半导体业务部总裁何庭波表示,将于今年秋季面世的麒麟手机芯片率先采用了逻辑折叠(LogicFolding)技…

2026-05-25

我国科研突破:“原眼一号”智能透射电镜开启微观世界探索新纪元
为破解上述难题,研发团队开发了“全自主感知-解析-操控通用智能透射电镜”算法,并在此基础上,攻克具身智能高真空样品传递、电子光学成像自主调节、纳米级样品智能定位、图像自主采集与实时解析、全系统状态感知与调度…

2026-05-25