《微软必应》推陈出新，邀请测试AI摘要功能：或将重塑搜索领域体验

近日消息，微软必应（Bing）透过其博客宣布，正邀请部分幸运用户参与体验其搜索结果中的AI摘要功能测试。此举标志着搜索引擎智能化的又一进步，旨在为用户提供更精准、直观的信息概览。

微软表示该功能结合搜索结果页面、生成式 AI、大型语言模型（LLMs），通过生成式搜索动态响应用户查询需求。

以搜索“什么是意大利西部片？”为例，必应 AI 摘要将深入介绍这一电影流派，内容涵盖历史和起源，经典代表等等，这些信息易于阅读和理解，并通过链接和来源显示其来源或让用户深入了解。

微软表示必应 AI 摘要功能能理解搜索查询，审查数百万个信息源，动态匹配内容，并以人工智能生成的新布局生成搜索结果，从而更有效地实现用户查询的意图。

微软Q-Sparse模型革新成效：8B参数效率比肩7B模型，训练与微调更加高效

近期，Q-Sparse方法作为近期研究的亮点，通过引入量化和稀疏化技术，有效缓解了这一挑战，旨在提升模型效率的同时保持其性能表现，这为LLMs的实际应用开辟了新的可能性，是迈向更广泛、成本效益更高的人工智能解决方案的重要一步。

Q-Sparse是一种简单但有效的方法，它通过在激活中应用top-K稀疏化和训练中的直通估计器，实现了LLMs的完全稀疏激活。这意味着在推理时可以显著提高效率。关键的研究成果包括:

Q-Sparse在保持与基线LLMs相当的结果的同时，推理效率更高。

提出了一种适用于稀疏激活LLMs的推理最优扩展法则。

Q-Sparse在不同设置中均有效，包括从头开始训练、现成LLMs的继续训练和微调。

Q-Sparse适用于全精度和1位LLMs（例如BitNet b1.58）。

稀疏激活的优势

稀疏性通过两种方式提高LLMs的效率:首先，稀疏性可以减少矩阵乘法的计算量，因为零元素不会被计算;其次，稀疏性可以减少输入/输出（I/O）的传输量，这是LLMs推理阶段的主要瓶颈。

Q-Sparse通过在每个线性投影中应用top-K稀疏化函数来实现激活的全稀疏性。对于反向传播，使用直通估计器计算激活的梯度。此外，还引入了平方ReLU函数来进一步提高激活的稀疏性。

实验验证

研究人员通过一系列扩展实验研究了稀疏激活LLMs的扩展法则，并得出了一些有趣的发现:

稀疏激活模型的性能随着模型大小和稀疏比率的增加而提高。

给定固定的稀疏比率S，稀疏激活模型的性能与模型大小N呈幂律扩展法则。给定固定的参数N，稀疏激活模型的性能与稀疏比率S呈指数律扩展法则。

Q-Sparse不仅可以用于从头开始训练，还可以用于现成LLMs的继续训练和微调。在继续训练和微调设置中，研究人员使用与从头开始训练相同的架构和训练过程，唯一的区别是使用预训练权重初始化模型，并启用稀疏函数继续训练。

研究人员正在探索将Q-Sparse与1位LLMs（如BitNet b1.58）和混合专家(MoE)结合使用，以进一步提高LLMs的效率。此外，他们还在努力使Q-Sparse与批量模式兼容，这将为LLMs的训练和推理提供更多的灵活性。

微软优化体验：Win10&Win11中Word、Excel、PowerPoint文档权限管理界面革新

7月9日消息，微软正式对外宣布，通过官方博客平台向Microsoft 365订阅用户发出诚挚邀请，共同参与Windows 10与Windows 11操作系统环境下，新版Word、Excel及PowerPoint应用程序的先行体验计划。

微软在博文中介绍了 UDP 权限的重大改进：

重新设计预定义权限级别：

涵盖最常见的使用情况：Viewer（谁可以查看）、Restricted Editor（受限的编辑者）、Editor（完整编辑者）和 Owner（文档拥有者）。

用户可以按照需求，动态划分个人或者组织的访问 / 编辑权限，并可以使用“更多选项”来灵活定制文档权限。

更现代化的“People Picker”

用户从组织或外部域中搜索选定的人员或组，并为其分配权限。该功能可在实时验证姓名和权限方面提供更快、更可靠的性能。

设计更直观

符合 Fluent Design System 设计理念，更好地支持高对比度模式和屏幕阅读器。

微软重塑PC分类体系：40 TOPS NPU算力成新标杆，Win11 AI+PC引领智能计算时代

7月12日消息，微软通过其官方社交媒体账号宣布了一项重要的命名变更。为了顺应人工智能（AI）技术在个人电脑领域的迅速发展，以及更好地指导消费者识别那些拥有更高性能和智能特性的Windows PC，微软决定将其产品分类中的特定系列命名为“Windows 11 AI+ PC”。

微软于 2024 年 5 月 20 日，向全球介绍了一个专为 AI 体验而设计的革命性的 Windows PC 品类，在国际市场称其为“Copilot + PC”，而在国内市场将其称为“Windows 11 AI PC”。

微软为了区分高端设备（指 NPU 算力在 40 TOPS 以上的设备）和普通 AI PC 的区别，因此跟随其在国际市场的叫法，在名称上添加“+”，现在叫做“Windows 11 AI+ PC”。

这些设备拥有了先进的 AI 体验，如实时字幕、增强的 Windows 工作室效果，以及即将推出的回顾功能，并搭载了 40+ TOPS（万亿次运算）的 NPU。

这些产品采用了时尚轻薄的设计，并由微软 Surface 及我们信赖的合作伙伴：宏碁、华硕、戴尔、惠普和联想共同打造。