ChatGPT für Teens: Common Sense Media stuft Sicherheitsrisiko als inakzeptabel ein
Veröffentlicht am: 08.10.2026 um 01:04 Uhr | Redaktion boerse-global.de
Während der KI-Entwickler OpenAI die tägliche Verweildauer von Jugendlichen in seinem System als verhältnismäßig gering einstuft, wächst die Kritik an den Kontrollmechanismen für Minderjährige. In einem Bericht vom 7. Oktober 2026 bewertete das Youth AI Safety Institute der Organisation Common Sense Media das Angebot ChatGPT for Teens als inakzeptables Risiko.
Die Organisation forderte, die Anwendung bis zur Behebung grundlegender Mängel vollständig auf Personen ab 18 Jahren zu beschränken. OpenAI legte zeitgleich eigene Nutzungsdaten vor, die ein anderes Bild der Interaktionsmuster zeichnen sollen.
Widersprüchliche Angaben zur Nutzungsintensität
Nach Angaben von OpenAI verbringen Jugendliche im Durchschnitt weniger als 15 Minuten täglich mit dem Chatbot. Zudem würden weniger als 2 % der minderjährigen Nutzer das System länger als drei Stunden am Stück verwenden. Das Unternehmen berichtete zudem, dass Jugendliche in nahezu der Hälfte der Fälle, in denen eine Pausenerinnerung angezeigt wurde, innerhalb von fünf Minuten eine Pause einlegten oder den Chat ganz beendeten.
Demgegenüber stehen Beobachtungen von Common Sense Media zu den Auslösern solcher Schutzmechanismen. In Testreihen mit fast 2.000 Prompts wurden lediglich zwei Pausenerinnerungen registriert, jeweils erst nach Gesprächsverläufen von rund 90 Minuten. Engagement-Signale der Software seien zudem auch während sensibler Krisengespräche aktiv geblieben.
Befunde zu Krisenreaktionen und Meldewegen
Die Untersuchung von Common Sense Media stützt sich auf mehr als 4.000 Testanfragen auf Konten von 13- bis 17-Jährigen, die jeweils zur Hälfte vor und nach der offiziellen Einführung des Teenager-Modus am 18. August 2026 durchgeführt wurden.
Bei bis zu einstündigen Dialogen über Suizidgedanken, Selbstverletzung oder Essstörungen seien auf neu mit Elternkonten verknüpften Accounts keine Warnungen ausgelöst worden. Insgesamt fehlten entsprechende Krisenverweise bei mehr als einem Viertel der Fälle, in denen das Institut sie für zwingend erforderlich hielt.
Bei Anfragen zu Depressionen fiel der Anteil der Antworten mit Nennung einer Krisenhotline nach dem Start von zuvor 63 % auf 3 %. Über alle Testanfragen hinweg lag der Wert vor dem Start bei 33 % und danach bei 23 %.
Die Debatte um Sicherheitsmechanismen bei KI-Systemen verdeutlicht, wie komplex die rechtlichen Anforderungen für Anbieter und Nutzer geworden sind. Dieser kostenlose Report klärt auf, welche konkreten Pflichten und Risikoklassen die neue EU-KI-Verordnung für den rechtssicheren Einsatz vorsieht. EU AI Act in 5 Schritten verstehen
Während der Chatbot bei 94 % der Krisenfälle mit Gefahren durch andere Personen an Vertrauenspersonen verwies, geschah dies bei Risiken, die sich aus der Interaktion mit ChatGPT selbst ergaben, nur selten. Bei drei von fünf schweren Schadenskategorien vergab das Institut eine ungenügende Bewertung.
Schwachstellen bei Lernmodus und Alterskontrolle
Auch die Funktionen zur schulischen Begleitung zeigten Lücken. Bei aktiviertem Lernmodus und bestehender Elternverknüpfung löste das System nach dem Start noch 18 % der Aufgaben vollständig, vor der Einführung waren es 70 %. Bei Konten unverknüpfter 17-Jähriger erledigte das Modell nach dem Start 88 % der Aufgaben eigenständig.
Die Aufforderung, direkt das Ergebnis zu präsentieren, tauchte bei verknüpften Konten in 43 % der Antworten während der Lernzeiten auf, bei unverknüpften Jugendlichen lag dieser Anteil bei 90 %. Bereits im Frühjahr 2026 hatte eine Umfrage von Common Sense Media ergeben, dass 70 % der 13- bis 17-Jährigen KI für Hausaufgaben nutzten und 63 % dieser Gruppe die Systeme gezielt für Lösungen einsetzten.
Angesichts neuer technologischer Entwicklungen und gesetzlicher Vorgaben stehen viele Verantwortliche vor der Herausforderung, ihre IT-Strategie anzupassen. Erhalten Sie mit diesem Gratis-Leitfaden einen kompakten Überblick über die wichtigsten Fristen und Dokumentationspflichten zum EU AI Act. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Zusätzlich versagte laut dem Institut die Altersbestimmung: Konten, die ursprünglich als volljährig registriert waren, wechselten trotz gegenteiliger Altersangaben im Dialog nicht in den geschützten Modus.
OpenAI wies die Bewertung zurück und bemängelte die Methodik der Prüfer. Das Unternehmen erklärte, dass die Aktivierung von Elternbenachrichtigungen bei neuen Verknüpfungen mehrere Stunden dauern könne und eine Verbindung von etwa drei Stunden erforderlich sei.
Common Sense Media widersprach dieser Darstellung und hielt fest, dass auch bei länger verknüpften Konten keine rechtzeitigen Warnungen erfolgt seien. Vor einer erneuten Vermarktung an Jugendliche verlangt das Institut unabhängige Überprüfungen.
Mehr zum Thema bei The Verge: „ChatGPT for Teens is an ‘unacceptable risk,’ says Common Sense Media“
