WORLDTECHAnthropic fordert von Kalifornien Gerichtsbefugnis gegen riskante KI-Modelle
Das Unternehmen Anthropic mit Sitz in San Francisco hat Kaliforniens Gouverneur Gavin Newsom gedrängt, dem Staat die Befugnis zu geben, ein Gericht um die Sperrung von KI-Modellen zu ersuchen, die eine ernsthafte Gefahr darstellen. Die Haltung steht in einem Brief, über den zuerst Politico berichtete, und fällt in eine Phase, in der der Staat prüft, wie er seine KI-Sicherheitsregeln verschärfen kann.
Was der Brief vorschlägt
In dem auf den 15. Oktober datierten Schreiben vertritt Anthropic die Ansicht, dass ein Modell, dem ein ernsthaftes Risiko nachgewiesen wurde, auf dem Rechtsweg gestoppt werden können sollte. Stellt eine Prüfung ein solches Risiko fest, so das Unternehmen, sollte der Staat bei einem Gericht die Sperrung beantragen können.
Nach dem Vorschlag des Unternehmens würden unabhängige Prüfer ihre Risikobefunde an die Generalstaatsanwältin Kaliforniens weiterleiten. Anthropic verlangt zudem interne Sicherheitsprüfer, Risikoberichte alle sechs Monate und externe Sicherheitsprüfer, die in führenden KI-Firmen tätig sind.
Bezug zur Anordnung vom September
Das Schreiben beantwortet eine Anordnung, die Newsom im September unterzeichnet hat. Mit ihr wurde eine Arbeitsgruppe eingerichtet, die binnen zwei Monaten Empfehlungen zur Stärkung der KI-Sicherheitsgesetze Kaliforniens vorlegen soll.
Eine Frage, die die breitere Debatte durchzieht, ist, ob Entwickler ihre Modelle abschalten können müssen.
Was bestätigt ist und was nicht
Ein Anthropic-Sprecher bestätigte, dass das Schreiben echt ist. Das Büro Newsoms hatte auf Anfragen zunächst nicht reagiert, weshalb die Haltung des Staates zu den Vorschlägen noch nicht bekannt ist.
Offene Fragen
- Wird die kalifornische Arbeitsgruppe eine gerichtliche Befugnis zur Sperrung von KI-Modellen empfehlen?
- Müssen KI-Entwickler ihre Modelle abschalten können?
- Wie wird die Reaktion des Staates auf die Anordnung vom September die endgültigen Regeln prägen?