Anthropic 致信加州州长纽森：法院应有权叫停存在风险的AI模型

事件经过

据Politico率先报道的这封信件，Anthropic向加利福尼亚州州长加文·纽森表示，州政府应有权要求法院阻止存在严重风险的AI模型。这封信写于10月15日，是对纽森于9月签署的一项行政令的回应。Anthropic的一位发言人确认信件属实，但纽森办公室未立即回应。Anthropic是一家总部位于旧金山的人工智能公司。

政府与政策 Anthropic致信纽森：法院应有权叫停存在风险的AI模型 在写给加州州长的信中，Anthropic还呼吁设立内部安全审计人员，并每六个月提交一次风险报告。2026年10月29日 上午8:19 Anthropic告诉加州州长加文·纽森，州政府应有权请求法院阻止存在严重风险的AI模型。

该行政令设立了一个工作小组，要求其在两个月内提出如何加强加州AI安全法规的建议。

其中一个问题是，开发者是否必须能够关闭其模型。“当审查发现某个模型存在严重风险时，政府应有权请求法院阻止该模型，”Anthropic在信中写道。

根据其提议，独立评估机构将向加州总检察长报告风险。Anthropic还希望外部安全审计人员能够进入领先的AI公司内部开展工作。