OpenAI-CSAM-Klassifikator, Bilder

OpenAI-CSAM-Klassifikator: 48 Prozent weniger Bilder markiert, Trefferzahl bleibt

Veröffentlicht am: 16.11.2026 um 19:36 Uhr | Redaktion boerse-global.de
Der Klassifikator soll geprüften Organisationen kostenlos bereitstehen; ChatGPT führt Warnungen, Konversationslöschungen und 24-Stunden-Sperren ein.
Ein minimalistisches, modernes Interieur mit einfallendem Tageslicht und klaren architektonischen Linien. Illustration mit AI erstellt.

OpenAI hat die Veröffentlichung eines neuen Bildklassifikators zur Erkennung von Material zu sexuellem Kindesmissbrauch (CSAM) sowie zusätzliche Warnmechanismen für ChatGPT angekündigt. Das System ist nach Angaben des Unternehmens das erste breit angebotene Erkennungswerkzeug, das über ein separates Signal für KI-generierte Inhalte verfügt.

Geprüfte Organisationen erhalten künftig kostenlosen Zugang zu dem Klassifikator über die OpenAI-Schnittstelle. Das Erkennungsinstrument entstand in Zusammenarbeit mit dem National Center for Missing & Exploited Children (NCMEC). Die Verteilung der Zugänge wird gemeinsam mit der Tech Coalition und der Initiative ROOST koordiniert.

Testergebnisse und Erkennungsraten

Erste Testläufe des Unternehmens zeigten, dass der Klassifikator im Vergleich zu bestehenden Verfahren 48% weniger Bilder markierte, während die Trefferzahl weitgehend unverändert blieb. Die tatsächlich markierten Bilder stellten etwa doppelt so häufig tatsächlichen Missbrauch dar.

Auch externe Tests meldeten konkrete Erkennungswerte: Bei Überprüfungen durch das Unternehmen Fal wurden 72% der mit hoher Zuversicht markierten Fälle als zuvor unbekanntes Missbrauchsmaterial bestätigt. Die Organisation SafetyKit registrierte eine Erkennungsrate von 90% bei Zeichnungen und computergenerierten Animationen.

Verschärfte Maßnahmen bei ChatGPT

Parallel zur Erkennungstechnologie führt OpenAI zusätzliche Schutzschritte für Nutzer seines Chatbots ein. ChatGPT zeigt bei Anfragen nach entsprechendem Material Warnhinweise an, entfernt die jeweilige Konversation und pausiert den Zugriff des betreffenden Nutzers für 24 Stunden.

Anzeige

Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu? Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Kostenloses Cyber-Security E-Book herunterladen

Bei wiederholten Verstößen behält sich das Unternehmen längere Sperren, die vollständige Schließung des Benutzerkontos sowie eine Weiterleitung an Strafverfolgungsbehörden vor.

Die Schutzmaßnahmen greifen zunächst für private Konten auf Mobilgeräten und im Web im Chat- und Work-Modus. Ausgenommen von diesen Änderungen sind derzeit Anwendungen für Desktop-Systeme sowie die Bereiche Voice, Codex, Business, Enterprise, Edu und Healthcare.

Zusammenarbeit mit Fachstellen und Behörden

Flankierend veröffentlichte OpenAI neue Leitlinien für Softwareentwickler zur Prävention, Erkennung und Meldung von Kindesmissbrauchsmaterial. Diese Richtlinien entstanden unter Beteiligung von NCMEC, der Tech Coalition, der Internet Watch Foundation (IWF), Thorn, Protect Children sowie der Lucy Faithfull Foundation.

Eine frühere Testversion der Warnmeldungen wurde von Joel Scanlan von der University of Tasmania unabhängig evaluiert. Zudem trat OpenAI dem Lantern-Programm der Tech Coalition bei.

Anzeige

Die rasante Entwicklung von KI-Systemen stellt Unternehmen vor komplexe rechtliche Fragen zur Kennzeichnung und Risikodokumentation. Ein kostenloser Umsetzungsleitfaden verschafft Ihnen den nötigen Überblick über die Anforderungen der aktuellen EU-Verordnungen. Gratis E-Book zum EU AI Act sichern

Für Ermittlungs- und Strafverfolgungsbehörden stellt das Unternehmen spezifische Hilfsmittel und Schulungen bereit. Das Angebot umfasst nach entsprechender behördlicher Freigabe einen Leitfaden sowie technische Werkzeuge zur Auswertung von Konversationsprotokollen und Zeitabläufen.

Die neuen Instrumente folgen auf einen deutlichen Anstieg relevanter Verdachtsfälle: Die CyberTipline des NCMEC verzeichnete im Jahr 2025 über 400.000 Meldungen, die im Zusammenhang mit generativer künstlicher Intelligenz standen.

Zugleich sah sich das Unternehmen Kritik und rechtlichen Auseinandersetzungen ausgesetzt. So stufte die Organisation Common Sense Media die Technik von OpenAI für Jugendliche als unvertretbares Risiko ein, während gegen das Unternehmen mehrere Klagen anhängig sind.

Disclaimer...
de | wissenschaft | 70522358 |