快科技6月24日消息，微软宣布推出全新的本地小型语言模型Mu，旨在通过自然语言处理技术，提升用户在系统设置中的搜索体验。
微软的目标是在设置应用中创建一个AI驱动的代理，能够理解用户的自然语言查询并将其集成到现有的搜索框中，以提供流畅的用户体验。
Mu为新代理功能提供支持，该功能最近已在开发频道向 预览体验计划成员开放，仅限于使用 +个人电脑的用户使用。
据微软介绍，Mu模型是一个3.3亿参数的编码器解码器语言模型，专为在神经处理单元（NPU）上高效运行而设计，能够实现每秒处理超过100个。
与类似大小的仅解码器模型相比，Mu在首次token延迟上降低了约47%，解码速度提高了4.7倍，此外，Mu通过在某些组件中使用权重共享来减少总参数数量，从而优化性能。
尽管Mu的大小仅为Phi3.5mini的十分之一，但其性能几乎相当，尤其在处理多词查询时表现出色。
这一功能已向 计划的用户开放，用户可以通过下载 11 Build 26120.3964（）或更高版本来体验这一新的AI驱动的代理功能。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：黑白
