Anthropic-Gesetzentwurf würde es Washington erschweren, Frontier-Modelle abzuschalten

Was passiert ist

Ein vertraulicher Gesetzentwurf, der POLITICO vorliegt, würde staatliche Eingriffe an bestimmte katastrophale Bedrohungen knüpfen und für Sperrungen eine richterliche Genehmigung verlangen. Zudem wirft er die Frage auf, wie stark Regulierungsbehörden leistungsfähige KI-Systeme überwachen sollten.

Zu diesen Bedrohungen zählen die Entwicklung oder Freisetzung biologischer Waffen, Modelle, die sich der Kontrolle ihrer Entwickler entziehen, sowie Cyberangriffe. Anthropic will, dass der Kongress strenge Grenzen dafür festlegt, wann Bundesbehörden fortgeschrittene KI-Modelle daran hindern dürfen, Nutzer zu erreichen. Anthropic ist ein Unternehmen für künstliche Intelligenz mit Sitz in San Francisco.

Qualifizierende Risiken müssen Schäden von mehr als 1 Milliarde Dollar oder den Tod bzw. schwere Verletzungen von mehr als 50 Menschen umfassen. Der Gesetzentwurf beschränkt diese Bedrohungen auf drei Szenarien.