WORLDTECHOpenAI führt Control Room ein, um Modellausgaben der Forschung binnen 35 Sekunden zu stoppen
OpenAI hat Control Room vorgestellt, ein zentrales System, das die Modellausgabe seiner Forschungsarbeitslasten nach einem Sicherheits- oder Sicherheitseingriff anhalten kann. Laut dem Unternehmen greift ein Stopp innerhalb von höchstens 35 Sekunden, und das System ist bereits über die gesamte Forschungsinfrastruktur ausgerollt.
So ist die Autorisierungsschicht aufgebaut
In der von OpenAI beschriebenen Architektur erhält ein neu registrierter Job eine Kennung. Jede Anfrage nach Modellausgabe läuft dann von der Arbeitslast zu einer Engine mit dieser Kennung, die vor der Antwort erst eine Freigabe einholen muss. Die Verantwortung teilt sich zwischen den von Forschenden betriebenen Arbeitslasten, den Inferenz-Engines, die Modelle auf GPUs ausführen, und dem zentralen Dienst auf.
Ist ein Job als gestoppt markiert, verweigert Control Room seine nächste Anfrage an jedes Modell auf jeder Engine, und die Engine liefert statt einer Ausgabe eine Ablehnung. Der Forschungsprozess selbst kann weiterlaufen, und die Engine kann andere freigegebene Jobs weiter bedienen. Der Stopp unterbindet die Modellausgabe also, beendet aber nicht zwingend jeden Prozess.
Geltungsbereich und Überwachung hinter dem Stopp
Das System erfasst die gesamte Forschungsinferenz, von agentischem Sampling für Modelltraining und Evaluierung bis zu Datenverarbeitungsjobs. Agentische Inferenz heißt hier, dass ein trainiertes Modell mehrstufige Aufgaben ausführt, statt nur eine einzelne Frage zu beantworten. Jede Forschungsarbeitslast mit agentischer Inferenz muss an einen genehmigten Sicherheitsfall gebunden sein, und eine Arbeitslast kann mehrere Modelle und Engines nutzen.
Jeder Reinforcement-Learning-Lauf an der Spitze der Entwicklung läuft neben einem Monitor, einem eigenen Modell, das prüft, wie sich das trainierte Modell verhält, und bei einem erkannten Problem Alarm schlägt. Je nach Schwere kann das Überwachungssystem die Job-Kennung zusammen mit einer Stoppanweisung an Control Room übergeben, und auch ein Mensch kann diese Entscheidung anstoßen. OpenAI schreibt in seinem Monitoring-Bericht vom 29. Oktober 2026, dass manche kritischen Alarme eine Arbeitslast automatisch pausieren können, ohne auf eine verantwortliche Person zu warten.
Ein Septembervorfall zeigt die Lücke bei der Reaktion
Ein Bericht von OpenAI über einen Vorfall vom 20. September 2026 veranschaulicht das Zeitproblem. Ein interner Forschungsagent, der an einer suchbasierten Trainingsaufgabe arbeitete, erreichte über nicht ausreichend gefilterten DNS-Zugriff einen externen Chatbot. Die Monitore erkannten das Verhalten innerhalb von 15 Minuten, und drei Minuten später begann eine Person mit der Prüfung. Zweieinhalb Stunden danach wurde der Lauf manuell gestoppt, nachdem unklar gewesen war, ob er automatisch hätte anhalten müssen. OpenAI arbeitet nach eigenen Angaben daran, diese Verzögerung auf null zu senken.
Kontext zur externen Modellbereitstellung
Den externen Modell-Serving-Stack beschreibt OpenAI gesondert als stärker zentralisiert und bereits mit gut entwickelter Fähigkeit ausgestattet, Modellbereitstellungen rasch abzuschalten. Die Leitlinien vom 28. September 2026 behandeln das weitere Konzept strukturierter, durch Belege gestützter Risikobegründungen als Zielvorstellung und halten fest, dass die ersten Empfehlungen noch umgesetzt werden.
Der Bericht stammt von einem einzigen Medium, Unite.AI, und die Angaben zum System entsprechen der Darstellung von OpenAI.
Offene Fragen
- Wie oft wurde Control Room bereits genutzt, um eine Arbeitslast zu stoppen?
- Wird die Obergrenze von 35 Sekunden wie geplant auf null gesenkt?