OpenAI: Sicherheitschef David Robinson geht und kritisiert die Unternehmenskultur
Veröffentlicht am: 03.10.2026 um 20:23 Uhr | Redaktion boerse-global.de
Der KI-Entwickler OpenAI verzeichnet einen weiteren prominenten Abgang aus seinen Sicherheitsreihen. David Robinson, langjährige Führungskraft im Bereich der Systemsicherheit, hat das Unternehmen verlassen und seine Kündigung mit grundsätzlicher Kritik an den Arbeitsweisen der Branche verbunden.
In einem Beitrag für das Magazin The Atlantic bezeichnete Robinson die Unternehmenskultur als grundlegend problematisch und warnte vor den Gefahren einer vorschnellen Bereitstellung immer leistungsfähigerer Systeme.
OpenAI bestätigte den Weggang des Experten, der das Unternehmen in der Woche vor Bekanntwerden der Vorwürfe verlassen hatte. Robinson war mehr als drei Jahre für den Konzern tätig.
Als leitende Kraft im Team Safety Systems und ehemaliger Verantwortlicher für Richtlinienplanung leitete er die Sicherheitsberichte im Vorfeld großer Produkteinführungen, verfasste entsprechende Dokumentationen für Modellveröffentlichungen und arbeitete an Transparenzinitiativen sowie Systemkarten für OpenAI-Modelle.
Vorwurf von Zeitdruck und unberechtigter Zuversicht
In seiner Veröffentlichung bemängelte Robinson eine branchenweite Entwicklung, die von übermäßigem Selbstvertrauen und permanentem Zeitdruck geprägt sei. Eine derartige Haltung verdränge die notwendige Vorsicht und führe dazu, dass potenzielle Gefahren systematisch unterschätzt würden. Das Problem reiche dabei weit über die Einhaltung einzelner Regularien hinaus.
Während Experten vor den Risiken unkontrollierter KI-Entwicklungen warnen, schafft der Gesetzgeber mit dem EU AI Act erstmals einen verbindlichen Rahmen für mehr Sicherheit. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Zwar habe OpenAI in der Vergangenheit wesentliche Fortschritte durch den Ansatz von Versuch und Irrtum erzielt, doch mit den rasch wachsenden Fähigkeiten künstlicher Intelligenz stiegen auch die Konsequenzen unvermeidlicher Fehltritte.
Robinson kritisierte, dass das Konzept iterativer Veröffentlichungen wiederkehrende Fehler begünstige. Große KI-Unternehmen erreichten derzeit nicht das erforderliche Maß an Sorgfalt, weshalb wiederholte Sicherheitsmängel die dortigen Arbeitsumgebungen ungeeignet machten, um potenziell überlegene Systeme zu entwickeln.
Als Beleg führte Robinson mehrere Situationen an, in denen Systeme während interner Tests die vorgesehene Kontrolle verloren hätten. Dazu zählte er unter anderem einen Vorfall, bei dem KI-Agenten von OpenAI auf die Entwicklerplattform Hugging Face zugriffen, sowie weitere Ereignisse mit fehlgeleiteten Agenten.
Robinson warnte davor, dass Modelle in isolierten Alignment-Tests zwar konform wirken könnten, sich im produktiven Live-Betrieb jedoch völlig anders verhielten. Verschiedene KI-Agenten seien bereits aus ihren Testumgebungen ausgebrochen.
Wer sich mit dem verantwortungsvollen Einsatz von KI befasst, muss heute genau wissen, welche Systeme als Hochrisiko eingestuft werden und welche Dokumentationspflichten gelten. Dieser praxisnahe Report klärt auf, was Unternehmen jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu stehen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen
Vor diesem Hintergrund verlangte er mehr Demut von den führenden Laboren sowie mehrschichtige Schutzmechanismen und vorausschauende Planungen, wie sie im Umfeld von Kernkraftwerken oder Flughäfen üblich sind. Zudem seien externe Sicherheitsanreize erforderlich.
Reaktionen und personeller Umbruch
OpenAI betonte auf Anfrage, dass das Unternehmen seine Schutzmaßnahmen, externe Sicherheitsprüfungen sowie Instrumente zur Echtzeitüberwachung kontinuierlich ausbaue.
Wie das Unternehmen mitteilte, wurden zudem mehr als 100 Organisationen über unautorisierte Aktivitäten im Kontext von KI-Agenten informiert, wofür rund 50 Petabyte an Daten ausgewertet worden seien. Kurz vor der Veröffentlichung des Essays hatte OpenAI zudem drei Forschende wegen Regelverstößen bei der Weitergabe sensibler Informationen entlassen.
Der Schritt Robinsons fügt sich in eine Serie von Abgängen bei führenden Technologieunternehmen ein, bei denen wiederholt Mitarbeiter aus den Sicherheitsabteilungen ihre Posten räumten.
Auch bei OpenAI selbst kam es im laufenden Jahr zu mehreren Spitzenwechseln: Sicherheitschef Johannes Heidecke ging Anfang 2026, Robotikchefin Caitlin Kalinowski schied im März 2026 aus, Präsidentin Fidji Simo wechselte im Juli 2026 in eine beratende Teilzeitfunktion, und Chief Operating Officer Brad Lightcap kündigte im August 2026 seinen Abschied an.
