KI-Risiken für Kinder: SOS und Terre des Hommes warnen

Die Kinderrechtsorganisationen SOS-Kinderdörfer weltweit und Terre des Hommes warnen vor erheblichen Risiken Künstlicher Intelligenz für Kinder und Jugendliche, sehen in der Technologie aber auch Chancen. Eine gemeinsame Studie kommt zu dem Ergebnis, dass die Belastung durch Risiken derzeit größer ist als die bestehenden technischen, institutionellen und regulatorischen Schutzmaßnahmen.

KI prägt den Alltag junger Menschen

KI sei bereits tief im Alltag junger Menschen verankert, heißt es in der Studie, über die die Zeitungen des Redaktionsnetzwerks Deutschland berichten. Sie beeinflusse Bildung, soziale Medien, Suchmaschinen, Unterhaltung und kreative Anwendungen häufig, ohne dass Kinder und Jugendliche die zugrunde liegende Technologie ausdrücklich erkennen.

Personalisierung, Kreativität und Barrierefreiheit könnten den Zugang zu digitalen Angeboten verbessern. Dieselben Funktionen erhöhten jedoch nach Einschätzung der Studienautoren auch die Gefahr von Fehlinformationen, Voreingenommenheit, Abhängigkeit und kommerzieller Ausbeutung.

Forderung nach verbindlichen Standards

Die Experten bewerteten die Exposition von Kindern und den möglichen Schaden als hoch. Technische, institutionelle und regulatorische Schutzmaßnahmen seien dagegen weiterhin unzureichend.

Sabina Schutter, Vorständin der SOS-Kinderdörfer weltweit, forderte umfassende Maßnahmen, um die Risiken zu senken. Kinderschutz bedeute zugleich, Kindern und Jugendlichen Kompetenzen für eine kritische, sichere und selbstbewusste Nutzung digitaler Räume zu vermitteln.

Deepfakes und emotionale Abhängigkeit

Joshua Hofert, Vorstandssprecher von Terre des Hommes, erklärte, Kinder wüchsen nicht neben, sondern mit KI auf. Besonders gefährdet seien sie durch Deepfakes, manipulative Algorithmen und emotionale Abhängigkeit.

Hofert verlangte deshalb, Kindesschutz von Beginn an in jede KI-Anwendung einzubauen. Zu den vorgeschlagenen Maßnahmen gehören verbindliche Standards für „Safety by Design“, eine wirksame Alterskontrolle und die systematische Beteiligung von Kindern an der Regulierung von KI.

Künstliche Intelligenz ist für Kinder und Jugendliche kein abgegrenztes Zukunftsthema mehr. Sie begegnet ihnen beim Lernen, in sozialen Netzwerken, bei Suchanfragen und in kreativen Anwendungen. Dadurch entstehen Chancen für individuelle Unterstützung und bessere Zugänglichkeit, zugleich aber auch neue Abhängigkeiten und Risiken, wenn Funktionsweise, Datenverarbeitung und wirtschaftliche Interessen für junge Nutzer schwer erkennbar bleiben.

Besonders problematisch sind Systeme, die Inhalte personalisieren und Aufmerksamkeit möglichst lange binden. Fehlinformationen können überzeugend wirken, algorithmische Empfehlungen Vorurteile verstärken und manipulierte Bilder oder Videos die Einordnung erschweren. Bei Kindern fällt zusätzlich ins Gewicht, dass Medienkompetenz, Risikobewusstsein und die Fähigkeit zur Selbstregulierung noch nicht vollständig entwickelt sind.

Regulierung und Verantwortung

In Europa wird der Schutz Minderjähriger zunehmend mit Fragen von Alterskontrolle, sicherer Produktgestaltung und digitaler Bildung verbunden. Diskussionen über strengere Altersgrenzen für soziale Netzwerke zeigen, dass technische Schutzvorkehrungen allein nicht ausreichen. Entscheidend ist, ob Anbieter Risiken bereits bei der Entwicklung berücksichtigen, verständliche Einstellungen ermöglichen und problematische Interaktionen begrenzen.

Für Familien, Schulen und Jugendliche bedeutet das, KI-Anwendungen nicht nur bedienen, sondern auch kritisch bewerten zu können. Dazu gehören der Abgleich von Informationen, ein bewusster Umgang mit persönlichen Daten und das Erkennen manipulativer Inhalte. Die Forderung nach verbindlichen Standards und einer Beteiligung junger Menschen zielt deshalb auf einen Schutz, der technische Regeln, Aufsicht und Bildung miteinander verbindet.