GPT-Red: OpenAI-KI findet Sicherheitslücken mit 84-Prozent-Quote

OpenAI hat mit GPT-Red ein internes KI-Modell vorgestellt, das Sicherheitslücken in den eigenen Systemen aufspürt. Das Tool agiert als automatisierter Gegner und übertrifft menschliche Tester deutlich.

Das am Dienstag vorgestellte Modell wurde speziell dafür entwickelt, Schwachstellen und sogenannte Prompt-Injection-Angriffe zu identifizieren – eine der größten Sicherheitsherausforderungen für große Sprachmodelle. GPT-Red fungiert als digitaler Penetrationstester, der die Abwehrmechanismen der OpenAI-Systeme systematisch herausfordert.

Selbstlernendes System im „Dojo"

Die Entwicklung von GPT-Red basiert auf einer besonderen Trainingsmethode: Self-Play Reinforcement Learning. Dabei trainiert die KI, indem sie sich in simulierten Umgebungen mit sich selbst oder anderen Modellen misst. OpenAI richtete dafür eine spezielle Trainingsumgebung ein, die als „Dojo" bezeichnet wird und reale Interaktionsszenarien nachbildet.

Die Ergebnisse sind beeindruckend. Während menschliche Sicherheitsexperten in 13 Prozent der getesteten Szenarien Schwachstellen fanden, erreichte GPT-Red eine Erfolgsquote von 84 Prozent. Das System kann nahezu jedes System knacken, gegen das es eingesetzt wird. Lediglich bei mehrstufigen Gesprächsangriffen und bildbasierten Exploits zeigen sich noch Schwächen.

Sicherheitssprung bei GPT-5.6 Sol

Die Erkenntnisse von GPT-Red flossen direkt in die Entwicklung des neuesten OpenAI-Modells GPT-5.6 Sol ein. Es gilt nun als das robusteste Modell gegen Prompt-Injection-Angriffe, das das Unternehmen je veröffentlicht hat.

Die Verbesserungen sind beachtlich:
- Sechsmal weniger Fehler bei direkten Prompt-Injection-Angriffen im Vergleich zum Spitzenmodell von vor vier Monaten
- Erfolgsrate von Angriffen sank von über 90 Prozent auf unter 23 Prozent
- Besonders spektakulär: Eine neu entdeckte Angriffsklasse namens „Fake Chain-of-Thought" – bei GPT-5.1 noch in über 95 Prozent der Fälle erfolgreich – scheitert bei GPT-5.6 Sol in über 90 Prozent der Versuche

Die rasante Entwicklung von KI-Modellen wie GPT-Red führt nicht nur zu technologischen Sprüngen, sondern auch zu neuen rechtlichen Anforderungen für Firmen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Realitätstest am Getränkeautomaten

Um die praktische Tauglichkeit zu prüfen, ließ OpenAI GPT-Red auf reale KI-Systeme los. In einem Fall kompromittierte das Modell einen KI-gesteuerten Verkaufsautomaten namens Vendy – und konnte Preise manipulieren sowie bestehende Bestellungen stornieren. Auch bei Entwickler-Tools wie Codex-CLI-Agenten deckte das System Sicherheitslücken auf.

Während OpenAI intern an der Absicherung von KI-Systemen arbeitet, müssen Unternehmen ihre IT-Sicherheit schon heute an die neuen gesetzlichen Rahmenbedingungen anpassen. Erfahren Sie im kostenlosen E-Book, wie Sie Sicherheitslücken schließen und gleichzeitig neue rechtliche Anforderungen ohne teure Investitionen erfüllen. Gratis-Leitfaden zur Cyber-Security jetzt herunterladen

Bleibt intern – Forschung wird geteilt

Trotz seiner Effektivität wird GPT-Red nicht öffentlich oder kommerziell verfügbar sein. OpenAI setzt bereits seit der Entwicklung von GPT-5.3 auf frühere Versionen dieser automatisierten Sicherheitsprüfung. Das Unternehmen plant jedoch, die Forschungsergebnisse mit der Fachcommunity zu teilen. Noch in dieser Woche soll ein technisches Preprint veröffentlicht werden.

Für die Branche ist das Thema Prompt Injection weiterhin von höchster Priorität – es gilt als eines der drängendsten Sicherheitsprobleme für große Sprachmodelle. GPT-Red zeigt einen vielversprechenden Weg, diesem Problem automatisiert zu begegnen.

de | wissenschaft | 69777615 |