WORLDTECHXint legt neue OpenAI-API-Lücke offen, über die Reasoning-Traces abfließen
Die Cybersicherheitsfirma Xint hat Details zu einer Lücke in der OpenAI-API veröffentlicht, durch die rohe Reasoning-Traces von Frontier-Modellen von OpenAI abfließen. OpenAI hat das Problem bestätigt, erklärt es für entschärft und eine Bug-Bounty für die Entdeckung gezahlt, doch die im August eingeführten Schutzmaßnahmen hielten der neuen Technik nicht stand.
August-Schutzmaßnahmen stoppten den neuen Weg nicht
OpenAI hatte im August Gegenmaßnahmen eingeführt, nachdem der Forschungsbericht Stolen Thoughts einen ähnlichen Fehler offengelegt hatte, der den Diebstahl von Reasoning-Traces ermöglichte. Den verifizierten Fakten zufolge hätte die frühere Lücke großangelegte Datenextraktion, unsichtbare Prompt-Injections durch Angreifer und schädliche Nutzlasten ermöglichen können, mit denen öffentliche agentische Rollouts vergiftet werden könnten.
Xint beschreibt die aktuelle Schwachstelle als Compaction Smuggling, ein Verfahren, das nach eigenen Angaben die Schutzmaßnahmen vom August umgeht.
Xints Veröffentlichung und die Antwort von OpenAI
Xint hat seine Befunde am Montag veröffentlicht. Der Fehler legt rohe Reasoning-Traces offen, was die Firma als Hinweis auf das Risiko weiterer Datenlecks wertet. OpenAI hat auf eine Anfrage zur Stellungnahme nicht reagiert.
Wiederholte Korrekturen in der Branche
Dass Korrekturen erneut überarbeitet werden müssen, wird bei großen KI-Anbietern zunehmend zum Muster. AWS teilte Anfang dieses Monats mit, einen Fehler im April behoben zu haben, ihn im September jedoch erneut reparieren zu müssen.
Offene Fragen
- Welche OpenAI-Modelle und API-Konfigurationen sind von der neuen Lücke betroffen?
- Hat OpenAI eine Korrektur eingeführt, die die Compaction-Smuggling-Technik vollständig unterbindet?