WORLDTECH NEWS 全球科技资讯。联系我们
人工智能 单一来源

OpenAI与四家独立评估机构签约,开展嵌入式安全审查

由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English

Elegant neoclassical facade of Dublin's Four Courts with iconic white columns.
示意图片。图片:Joaquin Carfagna / PexelsOpenAI 标志仅用于识别,不代表与 WORLDTECH 有任何关联或背书。

事件经过

OpenAI于2026年11月16日宣布,已与Apollo Research、METR、Transluce和Goodfire签署协议,启动嵌入式评估的第一阶段。安全与保障委员会可以获取未经编辑的报告,并能在审查期间与评估人员私下交流。OpenAI是一家总部位于旧金山的人工智能公司。

这一安排的核心特点是:在较长时间内持续访问内部模型和系统,尤其是与OpenAI安全论证相关的部分。

在Apollo的第一阶段,OpenAI将提供部分公开及未发布的模型和训练检查点、相关训练数据(即构建模型所用的材料)及评估结果、训练干预记录、监控系统以及已标记的异常行为。Apollo还将获得能够提供背景信息的研究人员,以及独立测试所需的工具和算力。

OpenAI表示,这种访问权限旨在让评估人员检视证据和背景信息、开展独立评估,并发现其可能未曾预料到的故障。OpenAI还表示,公开发布评估报告有助于公众更清楚地了解实验室如何评估和管理风险。

其两阶段评估涵盖四项论断:训练未激励颠覆行为;严格的评估和红队测试无法诱发此类行为;模型在内部使用中从未尝试过此类行为;以及此类行为背后的推理过程可被检测到。Goodfire将派遣专攻可解释性(即分析模型内部机制)的研究人员,并使用其平台进行训练运行监控、调试和对齐工作。OpenAI的研究人员是其研究结果的主要受众,他们将依据这些结果改进安全措施。

关键事实

  • OpenAI于2026年11月16日宣布,已与Apollo Research、METR、Transluce和Goodfire签署协议,启动嵌入式评估的第一阶段。
  • 安全与保障委员会可以获取未经编辑的报告,并能在审查期间与评估人员私下交流。
  • OpenAI于2026年11月16日宣布,已与Apollo Research、METR、Transluce和Goodfire签署协议,启动嵌入式评估的第一阶段。

来源与证据