Digitale Klassenchats: EU-Pläne sollen Kinder vor Pornos, Gewalt und KI-Bildern schützen

Sexualisierte Inhalte, Gewaltvideos und manipulierte Bilder sind in vielen Klassenchats heute fester Bestandteil des digitalen Alltags von Schülerinnen und Schülern.

Sexualisierte Inhalte und KI-Bilder im Klassenchat

Besonders problematisch sind sexualisierte Darstellungen, die ohne Zustimmung der Betroffenen verbreitet, verfremdet oder mithilfe von Künstlicher Intelligenz neu erzeugt werden. Fachleute schildern, dass Kinder und Jugendliche häufig nicht abschätzen können, welche Folgen ihr Handeln im Netz hat. Bereits das bloße Weiterleiten solcher Inhalte kann strafbar sein, die Opfer leiden mitunter jahrelang unter Mobbing und sozialer Ausgrenzung.

EU-Kommission will Minderjährige besser schützen

Vor diesen Gefahren sollen Kinder nach Plänen der EU-Kommission künftig besser geschützt werden. Soziale Netzwerke, bestimmte Spieleplattformen und Anbieter von KI-Diensten für Minderjährige sollen nachweisen müssen, dass ihre Angebote sicher sind. Erst dann sollen Kinder und Jugendliche Zugang erhalten. EU-Kommissionspräsidentin Ursula von der Leyen stellte den Vorstoß in Straßburg vor. Bevor neue Regeln gelten, müssen das Europäische Parlament und die 27 Mitgliedstaaten zustimmen, was sich über Monate oder Jahre hinziehen kann.

Frühe Erfahrungen mit sexualisierten Grenzverletzungen

Medienpädagogische Erfahrungen zeigen, wie früh sexualisierte Grenzverletzungen im Netz beginnen. In Workshops mit sechsten Klassen berichtet Saskia Nakari vom Landesmedienzentrum Baden-Württemberg, dass mehrere Mädchen von ungefragt zugesandten sogenannten Dickpics betroffen sind. Solche Erlebnisse verdeutlichen, wie sehr Grenzverletzungen in digitalen Räumen für viele Jugendliche bereits normal geworden sind.

Beratungspraxis bei Juuuport

Auch die Online-Beratungsplattform Juuuport mit Sitz in Hannover registriert zunehmend Fälle, in denen KI zur Manipulation von Bildern genutzt wird. Medienpädagogin Ann-Kristin Gaumann betreut dort ehrenamtliche Scouts, die Gleichaltrige vertraulich bei Themen wie Cybermobbing unterstützen. Monatlich melden sich etwa 250 bis 300 junge Menschen, bearbeitet werden die Anfragen von 35 Scouts. Besonders häufig betroffen sind 14- bis 17-Jährige sowie 10- bis 13-Jährige.

Konkrete Fälle von KI-Manipulation

Aus den Beratungen wird von einer 15-Jährigen berichtet, deren normale Fotos offenbar zu Nacktbildern verfremdet wurden, mutmaßlich mithilfe von KI. Die Betroffene erkennt sich in den Bildern nicht wieder und hätte selbst keine expliziten Fotos aufgenommen, doch im Umfeld gilt sie als jemand, der solche Inhalte verschickt habe. Ein 13-Jähriger schildert, Mitschüler hätten mittels KI einen Sticker erstellt, auf dem es so aussehe, als küsse er ein Mädchen, und dieses Bild werde weiterverbreitet.

Schuldgefühle und Angst der Betroffenen

Expertinnen und Experten sehen ein Muster darin, dass Betroffene sich selbst die Schuld geben und aus Angst schweigen. In Beratungen gehe es zunächst darum, Schuldzuweisungen einzuordnen und das Gefühl der Isolation zu durchbrechen. Ein Scout von Juuuport betont, wie wichtig es sei, mit vertrauten Personen über solche Vorfälle zu sprechen.

Livestreams und Plattformdruck

Nach Beobachtungen von Saskia Nakari entstehen problematische Inhalte zunehmend auch in Livestreams und auf Plattformen, wenn Minderjährige zu sexualisierten oder entwürdigenden Handlungen gedrängt werden. Dabei entstehen Aufnahmen, die anschließend gespeichert und verbreitet werden und sich der Kontrolle der Beteiligten entziehen.

Gruppendruck als Triebkraft beim Weiterleiten

Medienpädagogin Petra Grimm von der Hochschule der Medien in Stuttgart erklärt, dass der Antrieb für das Teilen solcher Inhalte oft weniger technische Neugier, sondern Gruppendynamik ist. Wer weiterleitet, sichere sich Anerkennung und bestätige Freundschaften. Wer sich verweigere, riskiere, in der Clique isoliert zu werden – ein Risiko, das viele Jugendliche im Alter von 12 bis 16 Jahren nicht eingehen wollen.

Strafbarkeit und fehlende Aufklärung

Verschärft wird das Problem nach Einschätzung von Nakari durch mangelnde Aufklärung. Kinder und Jugendliche würden mit ihren Smartphones häufig ohne Wissen um rechtliche Grenzen Straftaten begehen. Strafbar sei nicht nur die Herstellung pornografischer Inhalte, sondern unter Umständen auch deren Weiterleitung. Nakari verweist in diesem Zusammenhang auf ihre Podcast-Reihe „Schoolcrime“, in der solche Fälle aufgegriffen werden.

Aufgaben von Schulen und Eltern

Andrea Zeisberg, Medienpädagogin am Landesmedienzentrum, beschreibt, dass betroffene Schulen meist auf zwei Ebenen reagieren müssen: zum einen geht es um den Schutz der betroffenen Person, deren Bild verbreitet wurde, zum anderen um den Umgang mit der Gruppe und dem Weiterverbreiten. Vorrang habe, das geschädigte Kind in den Mittelpunkt zu stellen, seine Perspektive ernst zu nehmen und ihm Unterstützung anzubieten, bevor über Konsequenzen für die übrigen Beteiligten entschieden wird.

Digitale Gewalt im Alltag von Schülerinnen und Schülern

Sexualisierte Inhalte in Klassenchats und Messengern zeigen, wie stark sich digitale Gewalt in den Alltag von Kindern und Jugendlichen verlagert hat. Bereits in der Unterstufe sind viele Schülerinnen und Schüler mit expliziten Bildern, Videos und KI-manipulierten Darstellungen konfrontiert, die ohne Einwilligung Betroffener verbreitet werden. Solche Vorgänge greifen in die Intimsphäre ein, können Persönlichkeitsrechte verletzen und haben oft langfristige psychische Folgen. Zugleich verschwimmen für Minderjährige die Grenzen zwischen „Spaß“, Gruppendruck und strafbarem Verhalten.

Rechtlicher Rahmen und pädagogische Herausforderungen

Juristisch bewegen sich viele Fälle im Bereich des Strafrechts, etwa bei der Verbreitung pornografischer Inhalte, sexualisierter Gewalt oder ehrverletzender Darstellungen. Kinder und Jugendliche kennen diese Grenzen meist nur unzureichend und unterschätzen die Tragweite, wenn Inhalte gespeichert, weitergeleitet oder in anderen Gruppen wieder auftauchen. Schulen und Medienpädagoginnen stehen daher vor der Aufgabe, sowohl akute Opfer zu schützen als auch Klassen für digitale Grenzverletzungen zu sensibilisieren. Prävention umfasst heute Aufklärung über Bildrechte, Einwilligung, strafbare Inhalte und die Risiken vermeintlich anonymer KI-Tools.

Europäische Regulierung und Bedeutung für Eltern

Die Pläne der EU-Kommission, Online-Dienste für Minderjährige zu mehr Sicherheit zu verpflichten, knüpfen an diese Entwicklung an. Vorgesehen ist, dass bestimmte Plattformen und KI-Anwendungen für Kinder und Jugendliche nachweisen müssen, wie sie Missbrauch und gefährdende Inhalte verhindern, bevor sie Zugang zu Minderjährigen erhalten. Für Eltern bedeutet dies, dass technische Schutzmaßnahmen perspektivisch gestärkt werden könnten, pädagogische Begleitung aber unverzichtbar bleibt. Gespräche über digitale Grenzen, das Melden von Vorfällen und das ernsthafte Reagieren auf Hinweise von Kindern werden zu zentralen Bausteinen, um sie vor den Folgen sexualisierter Gewalt in Chats zu bewahren.