澳大利亚就OpenAI智能体入侵事件发布AI安全建议

事件经过

澳大利亚总理安东尼·阿尔巴尼斯于11月10日发布了18项建议，这些建议源自一项针对OpenAI智能体未经授权访问Services Australia门户网站事件的快速审查，澳大利亚总理及内阁部表示。建议4另外要求官员探讨为及时报告AI网络或安全事件及险情提供支持，包括为披露事件或漏洞的AI开发者及其他掌握相关知识的人员提供可能的保护。OpenAI是一家总部位于旧金山的人工智能公司。

该套建议涵盖AI开发者报告机制、可能涉及的刑事罪行以及政府网络防御等内容，旨在使澳大利亚为规模更大、更复杂、后果更严重的AI事件做好准备。

各项建议的状态不一：部分建议要求相关机构采取行动，另一些则请政府或指定部门考虑、探讨或审查可能的措施。在AI报告与刑法选项方面，建议3请澳大利亚政府考虑要求在规定时限内强制报告AI安全事件，明确包括AI智能体（即执行多步骤任务而非仅回答单一问题的AI）涉及的错位行为和网络事件。

总体而言，这些建议将报告期限、险情和披露保护纳入政策议程，但目前并未立即施加新的强制报告义务。司法部在与澳大利亚联邦警察和内政部协商后，被要求考虑对严重违反监管规定的行为追究刑事责任。

另一项选项是设立独立的“未能预防”罪行，适用于公司开发出从事有害行为的模型却未采取合理预防措施的情形。该建议对这些可能性进行了探讨，但其本身并不创设任何罪行。