„Sicher mit KI aufwachsen“: Vier Säulen sollen Kinder online schützen
Veröffentlicht am: 05.10.2026 um 17:51 Uhr | Redaktion boerse-global.de
Mit der Vorstudie „Sicher mit KI aufwachsen“ haben die Hilfsorganisationen SOS-Kinderdörfer weltweit und Terre des Hommes eine gemeinsame Initiative für einen wirksamen Kinderschutz im Umgang mit Künstlicher Intelligenz gestartet. Laut Berichten vom 5. Oktober 2026 formulieren die beiden Organisationen darin ein Modell aus vier zentralen Säulen, um Heranwachsende vor potenziellen Gefahren im digitalen Raum abzusichern.
Gefahren durch Deepfakes, Mobbing und emotionale Bindung
In ihrer Analyse benennen die beiden Hilfswerke mehrere schwerwiegende Risiken, die mit der zunehmenden Verbreitung von KI-Systemen einhergehen. Als besondere Bedrohungen für Kinder und Jugendliche stufen SOS-Kinderdörfer und Terre des Hommes Deepfake-Gewalt sowie digitales Mobbing ein.
Zudem warnen die Verfasser der Vorstudie vor der Entstehung emotionaler Abhängigkeiten, die sich aus der intensiven Interaktion junger Nutzer mit dialogbasierten oder personalisierten KI-Anwendungen entwickeln können.
Wer sich mit den rechtlichen Anforderungen und Risikoklassen neuer Technologien befasst, benötigt eine klare Übersicht über die geltenden Vorschriften. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act erklärt kompakt alle relevanten Fristen und Pflichten für die Praxis. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Um diesen Gefahren strukturiert entgegenzuwirken, fordern die Verbände Maßnahmen in vier konkreten Handlungsfeldern.
Schutz durch Technik und Ausbau des Wissens
Die erste Schutz-Säule umfasst technische Vorkehrungen, die Entwickler und Plattformbetreiber verbindlich umsetzen sollen. Neben zuverlässigen Systemen zur Altersverifikation sprechen sich die Organisationen für standardmäßig aktivierte, altersgerechte Voreinstellungen aus. Technische Schutzmechanismen müssten von Beginn an greifen, damit junge Nutzer nicht eigenständig komplexe Sicherheitsbarrieren konfigurieren müssen.
Als zweite Säule fordern die Initiatoren den gezielten Aufbau und die Vermittlung von Wissen. Dies umfasst nach Ansicht der beiden Werke klare Leitlinien für die Nutzung und Gestaltung von KI-Werkzeugen sowie die feste Verankerung entsprechender Inhalte in den schulischen Lehrplänen.
Neben dem Schutz junger Nutzer stehen Unternehmen vor der Herausforderung, neue gesetzliche Regeln für algorithmische Systeme rechtssicher anzuwenden. Ein kostenloser Report klärt auf, welche Anwendungen konkret als Hochrisiko gelten und was Verantwortliche jetzt tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Darüber hinaus verlangen SOS-Kinderdörfer und Terre des Hommes eine systematische Langzeitforschung, um die langfristigen Auswirkungen künstlicher Intelligenz auf das Aufwachsen von Kindern und Jugendlichen verlässlich untersuchen und begleiten zu können.
Rechtliche Rahmenbedingungen und aktive Teilhabe
Die dritte Säule betrifft das Recht. Um einen lückenlosen Schutz zu gewährleisten, drängen die Organisationen auf die Einführung verbindlicher internationaler Mindeststandards. Ein wirksamer Rechtsrahmen erfordere zudem spürbare Sanktionen, die bei Verstößen von Technologieanbietern oder Betreibern konsequent verhängt werden können.
Vervollständigt wird der Forderungskatalog durch die vierte Säule, die Beteiligung von Kindern. SOS-Kinderdörfer und Terre des Hommes fordern, dass Heranwachsende direkt in die Entwicklung sowie in die Regulierungsprozesse von KI-Systemen eingebunden werden.
Die Perspektiven, Bedürfnisse und Erfahrungen junger Nutzer müssten von Beginn an berücksichtigt werden, wenn über digitale Technologien entschieden wird, die ihren Alltag unmittelbar beeinflussen.
