KI-Sicherheit: OpenAI definiert vier Risikokategorien für GPT-5.5

Der KI-Entwickler OpenAI hat ein verbindliches Regelwerk für externe Sicherheitstests seiner fortschrittlichsten Modelle vorgelegt. Das am 28. Mai veröffentlichte „Evaluation Playbook" legt fest, wie unabhängige Prüfer die Fähigkeiten und Risiken von Systemen wie GPT-5.5 bewerten sollen. Es ist ein zentraler Baustein des neuen Frontier Governance Framework (FGF), mit dem OpenAI die Überprüfung hochleistungsfähiger KI-Modelle standardisieren will – vor und nach ihrer Veröffentlichung.

Die neuen Sicherheitsstandards von OpenAI unterstreichen die wachsende Bedeutung regulatorischer Vorgaben wie dem EU AI Act für die gesamte Wirtschaft. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Drei Prüfbereiche für externe Gutachter

Das neue Regelwerk definiert drei Hauptbereiche für externe Bewertungen: Fähigkeitserschließung, Sicherheitsvorkehrungen und Leistungsvergleiche. Entscheidend sei dabei die Gestaltung der Testumgebung – der sogenannte „Harness" –, in der ein Modell geprüft wird. Nur so ließen sich verlässliche Ergebnisse erzielen.

OpenAI setzt auf Transparenz und standardisierte Tests. Die strukturierte Methodik soll externen Prüfern ermöglichen, zuverlässig zu messen, ob ein Modell bestimmte Sicherheitsschwellen einhält. Der Schritt folgt auf eine Neuverhandlung der Testprotokolle mit dem US-Handelsministerium für kommende KI-Modelle.

Vier Risikokategorien im Fokus

Das am 29. Mai weiter ausgeführte Frontier Governance Framework definiert vier konkrete Risikobereiche: Cyber-Fähigkeiten, chemische, biologische, radiologische und nukleare (CBRN) Risiken, Manipulation und Überzeugung sowie den möglichen Kontrollverlust über das Modell.

Jede Risikokategorie wird in vier Stufen gemessen. Ein Beispiel: Ein Modell erreicht Stufe 3 im Cyber-Bereich, wenn es ohne menschliches Eingreifen Zero-Day-Exploits entwickeln kann. Um solche Risiken zu minimieren, hat OpenAI ein Programm für vertrauenswürdige Sicherheitsexperten eingeführt, die erweiterten Zugang zur Untersuchung von Schwachstellen erhalten. Zudem gibt es einen Notfallplan für KI-Sicherheitsvorfälle – und ab sofort erscheinen alle sechs Monate Sicherheitsberichte.

Während Tech-Giganten wie OpenAI eigene Frameworks entwickeln, müssen auch hiesige Unternehmen ihre IT-Sicherheit an neue KI-Gesetze und Bedrohungsszenarien anpassen. Welche rechtlichen Pflichten und Cyberrisiken Sie jetzt kennen müssen, erfahren Sie in diesem kostenlosen Experten-Report. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?

Strategische Ausrichtung an EU-Gesetzen

Die neuen Regeln orientieren sich an internationalen Vorschriften, darunter dem EU AI Act und dem kalifornischen Transparenzgesetz für KI-Modelle. OpenAI behandelt seine Spitzenmodelle zunehmend als kritische Infrastruktur, die institutioneller Aufsicht bedarf – nicht nur öffentlicher Vorführungen.

Parallel dazu hat OpenAI am 29. Mai den Ausbau seines GPT-Rosalind-Programms zur Biodefense bekannt gegeben. Das spezialisierte Modell soll bei der Pandemievorsorge und der Erkennung biologischer Anomalien helfen. Der Zugang ist auf verifizierte Nutzer beschränkt – darunter US-Behörden und internationale Partner wie das Johns Hopkins Applied Physics Laboratory sowie die Coalition for Epidemic Preparedness Innovations (CEPI).

In technischen Tests übertrifft das Rosalind-Modell die Leistung von GPT-5.4 in verschiedenen Laborbewertungen deutlich. Unternehmen wie Amgen und Moderna pilotieren das System derzeit über eine gesicherte API mit verschlüsselten Prüfprotokollen – ein weiterer Schritt zur strengen Sicherheitskontrolle.

de | wissenschaft | 69452519 |