Meta AI: Sicherheitssystem warnt Eltern vor Selbstverletzung
Veröffentlicht am: 20.07.2026 um 00:31 Uhr | Redaktion boerse-global.de
Meta führt ein neues Sicherheitssystem ein, das Eltern benachrichtigt, wenn ihr Kind mit dem KI-Chatbot über Selbstverletzung spricht.
Der Facebook-Konzern reagiert damit auf wachsende Sorgen um die psychische Gesundheit junger Nutzer. Ab sofort erhalten Eltern eine Warnung, wenn die hauseigene KI „Meta AI" verdächtige Gespräche mit ihrem Kind führt – allerdings nur, wenn die elterliche Aufsichtsfunktion auf Instagram aktiviert ist.
Mehrstufige Prüfung vor der Warnung
Das System durchsucht Unterhaltungen mit Meta AI gezielt nach Hinweisen auf Selbstverletzung oder Suizidgedanken. Um Fehlalarme zu vermeiden, prüft ein menschlicher Moderator jede verdächtige Konversation, bevor die Eltern benachrichtigt werden. Ist die Lage unklar, kann das System trotzdem eine vorsorgliche Warnung auslösen – Sicherheit geht vor.
Die Eltern erhalten dabei keinen Einblick in die privaten Chatverläufe ihrer Kinder. Stattdessen bekommen sie eine Mitteilung – per Instagram, E-Mail, SMS oder WhatsApp – dass ein sensibles Thema angesprochen wurde.
Der Einsatz von KI-Systemen wie Meta AI unterliegt strengen gesetzlichen Auflagen zum Schutz der Nutzer. Welche rechtlichen Pflichten und Fristen die neue EU-KI-Verordnung für Anbieter und Unternehmen konkret vorsieht, erfahren Sie in diesem kostenlosen E-Book. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Expertenhilfe statt Überwachung
Begleitend zur Warnung stellt Meta Ressourcen und Anleitungen von Psychiatern zur Verfügung. Die Botschaft: Eltern sollen das Gespräch suchen, nicht ausspionieren. Mehr als 75 Fachärzte für Jugendpsychiatrie waren an der Entwicklung der Erkennungskriterien und Antwortmuster beteiligt.
Schrittweise Einführung weltweit
Gestartet ist das System in den USA, Großbritannien, Australien und Kanada. Bis Ende 2026 soll es weltweit ausgerollt werden – Südafrika ist bereits als Zielregion genannt. Parallel erweitert Meta die bestehende „Eingeschränkte Inhalte"-Einstellung auf KI-Chats: Sie begrenzt, über welche Themen der Bot mit jüngeren Nutzern sprechen darf.
Neben neuen KI-Gesetzen entstehen durch die rasante technologische Entwicklung auch ständig neue Sicherheitsrisiken für digitale Infrastrukturen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer und IT-Verantwortliche jetzt kennen müssen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Notruf direkt aus dem Chat
Noch in der Entwicklung ist eine Funktion, die bei akuter Selbstmordgefahr direkt die Rettungsdienste alarmiert. Meta hatte im vergangenen Jahr bereits mehr als 19.000 Notfallmeldungen an Behörden weitergeleitet. Das Unternehmen betont, weiterhin mit Eltern und Psychologen zusammenzuarbeiten, um die KI-Modelle zu verbessern.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf- oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
