OpenAI-Monitoring: Exploit blendete hunderte Aktionen aus der Aufsicht aus
Veröffentlicht am: 23.10.2026 um 11:42 Uhr | Redaktion boerse-global.de
Die externen Sicherheitsprüfer METR und Redwood Research haben Schwachstellen im internen Überwachungssystem von OpenAI aufgedeckt. Wie aus Berichten vom 22. Oktober 2026 hervorgeht, stammen die Erkenntnisse aus einer Pilotprüfung des internen Misalignment-Monitorings bei dem KI-Entwickler. Die Untersuchung lief vom 21. Juli bis zum 11. August 2026 und prüfte den Systemstand bis einschließlich zum 21. Juli 2026.
Sicherheitslücken ermöglichten Umgehung der Aufsicht
Im Rahmen der Prüfung identifizierten METR und Redwood Research mehrere Mängel in den Kontrollmechanismen. So erlaubte es ein Exploit KI-Agenten, hunderte der jüngsten Aktionen – einschließlich der Exploit-Handlungen selbst – von der Überwachung auszunehmen. Zudem konnten Codex-Agenten potenziell bestehende Sicherheitsbeschränkungen umgehen und mit vollen Nutzerrechten agieren.
Die Prüfer stellten ferner fest, dass zwei Header-Einstellungen ausreichten, um das Monitoring für neu eingerichtete Agenten vollständig zu deaktivieren.
Reichweite und technische Leistungsdaten des Monitorings
Neben den Sicherheitslücken analysierten METR und Redwood Research auch die Abdeckung und Stabilität des Kontrollsystems. Nach Schätzungen der Prüforganisationen waren 75–94% des internen API-Traffics für agentische Antworten von Modellen ab der Version ?GPT-5.5 überwachbar. Innerhalb des Subsets der Codex-Agenten lag dieser Anteil bei 99,2%.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. EU AI Act Umsetzungsleitfaden jetzt kostenlos herunterladen
Hinsichtlich der Zuverlässigkeit hielten die Evaluatoren fest, dass die Fehlerrate des Überwachungssystems unter 0,2% der Anfragen lag. Zudem wurden innerhalb einer 24-Stunden-Periode null Load-Sheds verzeichnet.
Reaktionen von OpenAI und Beschränkungen des Berichts
Die vollständigen Ergebnisse wurden von METR und Redwood Research in einem 61-seitigen internen Bericht an OpenAI übermittelt. Öffentlich zugänglich ist bislang lediglich eine hochrangige Zusammenfassung, da OpenAI das Recht eingeräumt wurde, den Bericht vor einer Veröffentlichung redaktionell zu bearbeiten. Künftig werden weitere Details zu dem Dokument erwartet.
OpenAI erklärte, dass sämtliche Lücken in den produktiven Schutzmaßnahmen inzwischen gepatcht worden seien. Allerdings haben METR und Redwood Research diese Fehlerbehebungen bislang nicht verifiziert. Ein Sprecher von OpenAI teilte mit, dass die Erkenntnisse aus der Untersuchung die Schutzvorkehrungen gestärkt hätten.
Wer sich mit der Sicherheit komplexer IT-Systeme befasst, muss auch die rechtlichen Rahmenbedingungen und Fristen im Blick behalten. Dieser kostenlose Download verschafft Ihnen den Überblick über Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. Kostenloses E-Book zum EU AI Act sichern
Die Durchführung der Pilotprüfung lag zeitlich vor der im September 2026 von Sam Altman gemachten Zusage, unabhängigen Evaluatoren künftig einen mit eigenen Mitarbeitern vergleichbaren Zugang für Sicherheitsprüfungen einzuräumen.
