OpenAI verpflichtet vier unabhängige Prüfer für eingebettete Sicherheitsbewertungen

Was passiert ist
OpenAI hat am 16. November 2026 bekanntgegeben, dass das Unternehmen Vereinbarungen mit Apollo Research, METR, Transluce und Goodfire für die erste Phase seiner eingebetteten Bewertungen unterzeichnet hat. Der Ausschuss für Sicherheit und Schutz erhält ungeschwärzte Berichte und kann während der Prüfungen vertraulich mit den Gutachtern sprechen. OpenAI ist ein Unternehmen für künstliche Intelligenz mit Sitz in San Francisco.
Das entscheidende Merkmal ist ein dauerhafter Zugang zu internen Modellen und Systemen über einen längeren Zeitraum, insbesondere soweit sie mit den Sicherheitsargumenten von OpenAI zusammenhängen.
In der ersten Phase von Apollo stellt OpenAI ausgewählte öffentliche und unveröffentlichte Modelle sowie Trainings-Checkpoints, relevante Trainingsdaten (das Material, aus dem ein Modell aufgebaut ist), Evaluierungsergebnisse, Aufzeichnungen über Trainingseingriffe, Überwachungssysteme und markierte Verhaltensweisen bereit. Apollo erhält außerdem Zugang zu Forschenden, die Kontext liefern können, sowie zu den Werkzeugen und der Rechenleistung, die für unabhängige Tests nötig sind.
OpenAI erklärt, dieser Zugang solle es den Gutachtern ermöglichen, Belege und Kontext zu prüfen, unabhängige Auswertungen durchzuführen und Fehler aufzudecken, die OpenAI möglicherweise nicht vorhergesehen hat. Außerdem betrachtet das Unternehmen die öffentliche Berichterstattung über die Bewertungen als Mittel, um Menschen einen klareren Einblick in die Art zu geben, wie Labore Risiken bewerten und steuern.
Die zweistufige Bewertung umfasst vier Aussagen: Das Training hat keine Subversion begünstigt, starke Evaluierungen und Red-Teaming-Tests haben sie nicht hervorgerufen, Modelle haben sie während der internen Nutzung nicht versucht, und die dahinterliegende Begründung wäre erkennbar. Goodfire wird Forschende entsenden, die auf Interpretierbarkeit spezialisiert sind, also auf die Analyse der inneren Abläufe von Modellen, und setzt seine Plattform für die Überwachung von Trainingsläufen, das Debugging und die Ausrichtung ein. Die primäre Zielgruppe für die Ergebnisse sind die Forschenden bei OpenAI, die sie nutzen werden, um Sicherheitsverbesserungen vorzunehmen.