微软公司在近期的一项重大更新中，正式揭晓了内置于Windows 11的新型设备端小型语言模型——Mu。这一创新举措旨在为用户带来更为智能且自然的交互体验，特别是在系统设置的搜索功能上实现了显著提升。
回顾去年，微软曾推出了搭载高性能专用神经处理单元（NPU）的Copilot + 个人电脑系列，其NPU算力高达40 TOPS以上。这些电脑内置了Phi - Silica，一款专为微软第一方及第三方开发者应用程序提供本地语言智能功能的小型语言模型（SLM）。
而今，微软在Windows 11操作系统中引入了Mu，这一全新的本地小型语言模型，进一步推动了人工智能在操作系统中的应用。Mu的设计初衷是成为一个基于AI的智能代理，能够准确理解用户的自然语言查询，并将其无缝融入系统设置应用中的搜索框，从而为用户提供更加顺畅的操作体验。
目前，微软已利用Mu模型为设置应用中的全新代理功能提供支持，该功能已在开发频道向Windows预览体验计划成员开放，但仅限于使用Copilot + 个人电脑的用户。这一功能的推出，标志着微软在智能化操作系统领域迈出了重要一步。
Mu作为一款拥有3.3亿参数的编码器-解码器语言模型，其架构设计在提升性能方面表现卓越。与同尺寸的解码器模型相比，Mu的编码器-解码器架构能够显著降低首token延迟约47%，并将解码速度提高4.7倍。Mu在部分组件中采用了权重共享技术，有效减少了总参数数量。该模型在Azure机器学习平台上，利用NVIDIA A100 GPU进行了严格训练。
尽管Mu的尺寸仅为Phi - 3.5 - mini的十分之一，但其性能却几乎与经过类似微调的Phi - 3.5 - mini相当。更重要的是，Mu在处理多词查询时表现出色。对于短词或部分词输入，系统设置应用仍会在搜索框中显示词汇和语义搜索结果，确保用户能够轻松找到所需信息。
对于渴望体验这一全新人工智能代理功能的用户来说，只需下载Windows 11的最新版本（Build 26120.3964或更高版本），即可在设置应用中畅享这一创新功能。这一更新无疑将为用户带来更加智能、便捷的操作体验。
