WORLDTECH NEWS 全球科技资讯。联系我们

微软发起AI透明度计划,联合40余家机构

由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English

Monochrome image of a laptop, camera, lens, and coffee cup on a wooden desk
示意图片。图片:Pixabay / PexelsMicrosoft 标志仅用于识别,不代表与 WORLDTECH 有任何关联或背书。

微软推出AI透明度计划,这是与客户及合作伙伴共同推进的一项工作,旨在构建一个共享、开放的框架,用于保障AI模型和智能体的安全并加以治理。董事长兼首席执行官萨提亚·纳德拉(Satya Nadella)在Microsoft Ignite大会上介绍了该计划,将其视为微软推进更安全AI工作的下一阶段。

该计划是什么

纳德拉在Microsoft Ignite大会上发布了该计划,称其是微软践行让AI更安全这一承诺的最新阶段。该计划以与客户及合作伙伴合作的形式推进,目标是形成一套开放的安全与治理方法,覆盖多家供应商的模型,而不局限于某一家厂商的技术栈。

微软围绕一个基本理念展开这项工作:AI获得的自主性越强,就越需要透明度。微软指出,企业正在将AI模型与数据、工具、凭证和基础设施相连接,使智能体无需人工逐步审批即可执行操作。因此,微软认为,各机构需要能够追踪这些智能体的行为。

参与方与三部分计划

微软表示,它正与40余家机构合作,其中包括埃森哲(Accenture)、Adobe、毕马威(KPMG)、万事达(Mastercard)和沃尔沃汽车(Volvo Cars),共同制定开放标准,使AI系统无论采用哪种模型或供应商,都能够被问责、接受独立验证,并从一开始就以安全为设计目标。

该计划包括三个组成部分。其既定目标是让每个机构都能看清AI系统触及和执行了哪些操作,独立检验这些操作,并决定这些系统可以做什么。微软将其中的“看清”部分描述为:了解AI被要求执行什么、获准执行什么,运行于哪个模型和运行环境之上,接触了哪些数据和工具,以及实际执行了什么操作,并依据政策和限制对智能体的活动进行持续监控。

微软指出的证据缺口

微软认为,当前的管控手段能够观察到AI模型周边的大部分活动,但无法洞察模型内部,也无法独立测试模型对自身行为所作的报告。从请求到结果之间发生了什么,机构往往难以拼凑还原,这削弱了其对智能体为何如此行动的理解,并在安全、合规、审计和问责方面带来风险。

验证环节基于这样一个前提:智能体不应成为其自身行为的唯一权威。关于智能体身份、委托意图和行为的记录,应当标明其来源,无论来自模型、运行环境,还是身份和政策工具等独立系统,从而使模型报告的信号能够与独立观察到的记录相互核对。

业界人士的看法

Adobe首席安全官Aanchal Gupta表示,随着AI智能体更深入地嵌入企业运营,安全团队需要清晰地了解智能体访问了什么、执行了哪些操作,以及如何验证这些操作。微软安全部执行副总裁Hayete Gallot表示,要让安全管控发挥作用,每个机构都需要对模型本身有更高的透明度。埃森哲全球网络安全负责人Harpreet Sidhu表示,正在推进AI重塑的机构需要坚实的信任基础作为下一步的依托。

待解问题

  • 参与机构将发布哪些具体的开放标准,时间表如何安排?
  • 该方法将如何在实践中同时适用于闭源模型和开放权重模型?

关键事实

  • 微软董事长兼首席执行官萨提亚·纳德拉(Satya Nadella)于周二在Microsoft Ignite大会上宣布推出AI透明度计划(AI Transparency Initiative)。
  • 该计划是与客户及合作伙伴共同推进的合作项目,旨在为跨模型和跨供应商的安全与治理建立共同、开放的方法。
  • 微软的核心理念是:AI获得的自主性越强,就越需要透明度。

来源与证据