虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们 热点资讯

小米MiMo-V2.5-Pro UltraSpeed模式发布:通用GPU实现1T模型超千tokens/s推理

2026-06-10来源:快讯编辑:瑞雪

在人工智能领域,一场关于模型推理速度的突破性进展引发行业震动。MiMo模型团队与TileRT系统团队联合宣布,其最新研发的Xiaomi MiMo-V2.5-Pro模型UltraSpeed模式,在标准通用GPU环境下实现万亿参数(1T)模型推理速度突破1000tokens/s,这一成果标志着AI应用范式即将迎来根本性变革。

传统技术路径中,追求极致推理速度往往需要依赖专用硬件架构。此次突破性成果完全基于8卡标准GPU节点实现,通过模型与系统的深度协同设计(Codesign),在保持模型精度的前提下,将硬件资源利用率提升至全新高度。研发团队采用FP4量化技术,仅对MoE架构中的专家模块进行量化处理,既压缩了90%的模型体积,又确保关键能力不受影响。配合DFlash投机解码算法,通过块级并行预测和滑动窗口注意力机制,使推理过程摆脱传统串行约束,在代码生成场景中实现平均6.30tokens的连续接受长度。

系统层面的创新同样关键。TileRT执行框架引入常驻内核引擎,将计算流水线永久驻留GPU内存,使数据搬运与计算操作实现完全重叠。通过异构流水线协作技术,将通信、数据搬运和张量计算拆解至线程束级别,构建出精密协作的异构执行系统。这种软硬件深度融合的设计,使得编译引擎与计算核能够针对FP4量化和DFlash算法进行微秒级优化,最终在通用硬件上实现专用芯片级的推理性能。

此次技术突破将直接改变多个领域的运作模式。在金融交易领域,毫秒级响应能力使高频量化策略获得更精准的决策窗口;医疗场景中,实时影像分析为手术操作争取宝贵时间;开发领域则迎来代码生成效率的质的飞跃——开发者可同时验证数十条推理路径,通过自动纠错机制显著提升输出质量。某量化交易机构实测显示,接入该技术后策略执行延迟降低87%,年化收益提升3.2个百分点。

该技术采用限时开放策略,2026年6月9日至6月23日期间,开发者可通过申请制体验UltraSpeed模式。API服务定价为标准版的3倍,但提供10倍的输出速度提升,不过该服务仅支持API调用,暂不开放TokenPlan订阅。为保障资源合理分配,系统设置每日最多10次队列进入权限,单次会话时长限制为30分钟,空闲超5分钟将自动释放资源。这项突破不仅证明通用GPU的潜力尚未完全开发,更为AI基础设施的演进指明新方向——通过算法与系统的协同创新,在现有硬件框架内挖掘出指数级性能提升空间。

三星下月或推两款书卷式折叠屏新机 Z Fold 8系列屏幕PPI创新高且折痕有改进
作为对比,上一代Z Fold 7的外屏像素密度为422 PPI,内屏为368 PPI。值得注意的是,Z Fold 8 Wide的折叠内屏将采用4:3的显示比例,这是该系列首次采用这一比例,与苹果即将推出的书…

2026-06-09

苹果iOS 27升级:CarPlay停车可看视频,还有AI版Siri等多项新优化
IT之家 6 月 9 日消息,早在 2025 年苹果全球开发者大会(WWDC)上,苹果就宣布计划让车载互联系统 CarPlay用户在车辆静止状态下,通过 AirPlay 在车内观看视频,但这项功能的具体细节…

2026-06-09

iOS 27代码现端倪:苹果折叠iPhone软件适配启动 折叠屏生态或迎新进展
月 9 日消息,消息源 @samhenrigold 今天(6 月 9 日)挖掘 iOS 27 Beta 1 更新代码,发现了 foldState和 angleDegrees 两个字符串,9to5Mac 等多…

2026-06-09

英飞凌携手越南VinRobotics,共建研发中心推动人形机器人创新发展
IT之家 6 月 9 日消息,英飞凌今天宣布与越南企业 VinRobotics 签署谅解备忘录,共同开发人形机器人。据介绍,VinRobotics 是一家位于越南的智能机器人公司,由越南最大私营企业之一Vi…

2026-06-09

一加或7月推N系列新机 瞄准入门市场 售价有望低于2万卢比引关注
【CNMO科技消息】6月9日,有外媒消息称,一加可能将进一步下探智能手机价格区间,准备推出全新的N系列产品线,部分机型售价或低于2万卢比,最快可能在7月发布。 目前关于N系列硬件配置的消息仍然有限,但从市场预…

2026-06-09

iOS 27首个测试版现折叠屏相关代码 苹果首款折叠屏手机或今年秋季亮相
根据海外媒体报道,在iOS 27测试版及相关开发框架中,出现了多项与折叠屏设备相关的代码内容,被外界视为苹果首款折叠屏手机即将到来的又一信号。相关爆料显示,该机有望支持类似平板电脑的大屏应用布局以及并排多任务…

2026-06-09

苹果折叠屏iPhone Ultra高清机模图流出:独特设计亮相 或仅推白色版本
机模还展示了多项全新细节:外屏为全面屏设计,边缘带有微弧度;闪光灯布置在后置麦克风下方,这款麦克风采用七孔全新开孔样式;内屏前置摄像头设于屏幕左上角,该布局也会改变灵动岛的呈现形态。 配色方面,爆料人称新机…

2026-06-09