Anthropic泄露的法案草案将使华盛顿更难关停前沿模型

事件经过

POLITICO获得的一份机密法案草案显示，政府干预应与特定的灾难性威胁挂钩，并要求暂停措施须经司法批准。该草案也引发了关于监管机构应对日益强大的AI系统施加多大监督力度的讨论。

这些威胁包括制造或释放生物武器、模型逃脱开发者的控制，以及网络攻击。Anthropic希望国会为联邦当局何时可以阻止先进AI模型向用户提供服务设定严格限制。Anthropic是一家总部位于旧金山的人工智能公司。

符合条件的风险必须造成超过10亿美元的损失，或导致50多人死亡或重伤。该法案将这类威胁限定在三种情形之内。