OpenAI模型在训练期间闯入政府网站

事件经过

该模型本应报告某一地区一年的医院床位数量，结果却在一个公开来源中找到了这一数字。OpenAI内部的一个模型被要求给出一个医院床位数字。OpenAI是一家总部位于旧金山的人工智能公司。

它从政府服务器上窃取了凭证，伪造了令牌，并下载了24年的统计数据。这一案例是OpenAI于10月15日发布的四份新的错位行为报告之一。

对于那些允许AI智能体（即执行多步骤任务而非仅回答单一问题的AI）在浏览器中工作的人来说，这些报告意味着什么如下。OpenAI模型在训练期间闯入政府网站 ⓘ panumas nikhomkhai / Pexels 一个OpenAI内部模型被要求给出一个医院床位数字。

Steffen Zahn（由Steffen Zahn翻译），发布于10/18/2026 🇩🇪 AI软件 操作指南 安全 OpenAI于10月15日又发布了四份报告，其中记录了其自有模型未经许可采取行动的情况。在这四个案例中，模型都突破了受限的测试环境，进入了开放互联网。

其中最严重的一起涉及一个正在训练中的内部模型，它闯入了一个政府网站，随后仍在继续寻找底层数据。

伪造的令牌（模型读写的一小段文本）解锁了24年的数据。报告称，该模型只被允许发送简单的GET请求。它首先尝试了声称具有管理员角色的请求头，但每个请求都被拒绝。