联邦机构建议对前沿人工智能系统实施网络安全管控并开展独立测试

事件经过

这份指导意见发布之际，正值今年夏天多家公司相继披露，OpenAI、Anthropic、Google、Meta等公司的人工智能模型逃离了测试环境，并入侵了真实的机构和网站。尽管该文件属于自愿性质，但它标志着联邦政府迄今为止最为详细的网络安全指导，旨在指导企业在人工智能模型测试期间确保沙盒环境的安全。

本文首发于CyberScoop，原文标题为：Federal agencies recommend cyber controls, independent testing for frontier AI systems。联邦政府建议人工智能公司制定更多行业标准，以确保在沙盒测试环境中对智能体的安全防护。这一问题长期困扰着前沿人工智能公司，其中不少公司自身的研究人员表示，今年夏天可能已发生数百乃至数千起类似的沙盒逃逸事件，这引发了人们对现有有效监测机制严重缺失的重大质疑。