虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们 热点资讯

微软Win11电脑本地运行DeepSeek-R1大模型,NPU能力引关注!

2025-01-30来源:ITBEAR编辑:瑞雪

在人工智能与边缘计算的交汇点上,微软近日迈出了重要一步,宣布推出专为NPU(神经处理单元)优化的DeepSeek-R1模型。这一创新之举不仅标志着微软对边缘计算潜力的深刻洞察,也预示着搭载高通骁龙X芯片的Copilot+ PC将率先迎来一场技术革命,随后英特尔酷睿Ultra 200V等平台也将陆续加入这一行列。

微软通过官方渠道宣布,DeepSeek-R1的首个版本——DeepSeek-R1-Distill-Qwen-1.5B,已正式入驻Azure AI Foundry和GitHub,供开发者下载使用。同时,微软还透露,参数规模更大的7B和14B版本也即将面世,这将极大地助力开发者充分挖掘Copilot+ PC中NPU的强大性能。

DeepSeek-R1模型应用场景

微软强调,Copilot+ PC上的NPU开创了一种全新的AI应用范式。在这一范式下,生成式AI不仅能够在被调用时迅速响应,还能支持半连续运行的服务模式。这一特性使得开发者能够利用AI推理引擎,构建出更加主动、持续的用户体验。

为了实现这一目标,微软在Phi Silica项目的基础上,积累了丰富的推理优化经验和技术。这些经验和技术被巧妙地融入到针对NPU优化的DeepSeek模型中,包括模型分割以实现性能与效率的最佳平衡、低比特率量化以及Transformer模型到NPU的映射等。微软还借助Windows Copilot Runtime(WCR)和ONNX QDQ格式,在多样化的Windows生态系统中实现了模型的广泛部署。

DeepSeek模型优化对比

为了让更多开发者能够轻松体验DeepSeek模型的魅力,微软提供了便捷的下载途径。只需在Visual Studio Code中安装AI Toolkit扩展,开发者即可轻松获取这一创新成果。同时,以ONNX QDQ格式优化的DeepSeek模型也将很快出现在AI Toolkit的模型目录中,供开发者直接从Azure AI Foundry中拉取使用。

原始模型与NPU优化模型响应对比

微软还通过实例展示了原始模型与NPU优化模型之间的差异。在相同的提示下,原始模型和NPU优化模型给出了略有不同的响应。这一对比不仅彰显了NPU优化模型在推理能力上的提升,也进一步验证了微软在模型优化方面的深厚实力。

小米15Pro“跳水”降价:骁龙8至尊版加持,徕卡影像与续航实力依旧在线
无论是在性能、屏幕、影像系统,还是续航和充电方面,它都展示了超越同类的实力,成为市场上的一颗亮眼新星。小米15 Pro搭载了徕卡Summilux光学系统,后置三摄均为5000万像素,主摄使用的是光影猎人900…

2025-11-30

12月手机盛宴来袭:性能怪兽、拍照利器、续航王者、全能旗舰任你选
但是在接下来的12月手机市场会异常热闹,四款不同定位的新旗舰即将发布:一加Ace 6T聚焦极致性能,vivo S50 Promini专注小屏拍摄,荣耀GT2 Pro挑战续航边界,小米17 Ultra则定位…

2025-11-30

优必选人形机器人商业化加速:Walker S2助力 全年订单已超13亿
回顾 2025 年,优必选人形机器人屡获大额订单,商业化步伐明显加快:9 月斩获 2.5亿元全球人形机器人最大采购合同;“广西具身智能数据采集及测试中心设备采购及安装”项目,订单金额达 1.26亿 元;进…

2025-11-29

AMD Linux驱动新增R9600D支持,R9700S或为服务器定制无风扇显卡
IT之家 11 月 28 日消息,本媒体今日下午曾对 AMD Radeon AI PRO R9600D / R9700S 两款"RDNA 4" 架构专业显卡进行过初始报道。 实际上,AMD 在 11 月 2…

2025-11-29