China verbietet emotionale KI-Begleiter: 345 Millionen Nutzer betroffen
Veröffentlicht: 15.07.2026 um 20:35 Uhr, Redaktion boerse-global.de
Seit dem 15. Juli 2026 gelten in China neue Regeln für KI-Dienste, die menschliche Emotionen simulieren. Die „Interimsmaßnahmen zur Verwaltung anthropomorpher interaktiver KI-Dienste" wurden bereits am 10. April von der chinesischen Internetaufsicht (CAC) und vier weiteren Ministerien erlassen. Sie richten sich gezielt gegen digitale Angebote, die dauerhafte emotionale Bindungen zu Nutzern aufbauen.
Bittere Pille für Millionen Nutzer
Die Folgen ließen nicht lange auf sich warten. Noch am Tag des Inkrafttretens schalteten mehrere der größten Tech-Konzerne des Landes ihre KI-Begleitfunktionen ab oder schränkten sie massiv ein. ByteDance (Doubao), Alibaba (Qwen) und Tencent (Yuanbao) stoppten Dienste, mit denen Nutzer personalisierte KI-Persönlichkeiten erschaffen und als emotionale Begleiter nutzen konnten.
Besonders hart trifft es die Nutzer von Doubao. Die Plattform verzeichnete 2024 rund 345 Millionen monatlich aktive Nutzer und mehr als acht Millionen von Usern erstellte KI-Agenten. Diese wurden nun in einen eingeschränkten Modus versetzt. Bis zum 15. Oktober 2026 können die Betroffenen ihre Chat-Verläufe lediglich im Nur-Lese-Modus sichern. In den sozialen Medien berichten viele Nutzer von Verzweiflung über den plötzlichen Verlust ihrer virtuellen Begleiter – manche hatten über Monate oder Jahre enge digitale Beziehungen aufgebaut.
Strengere Regeln gegen Sucht und Manipulation
Die neuen Vorschriften zielen explizit auf Dienste ab, die eine durchgehende emotionale Interaktion simulieren. Reine Arbeitswerkzeuge wie Kundenservice-Bots oder Assistenzsysteme sind ausdrücklich ausgenommen.
Die Kernanforderungen im Überblick:
- Kennzeichnungspflicht: Plattformen müssen unmissverständlich klarstellen, dass der Nutzer mit einer KI und nicht mit einem Menschen interagiert.
- Suchtprävention: Nach zwei Stunden ununterbrochener Nutzung erscheint eine verpflichtende Warnung. Zudem muss ein sofortiger Ausstieg jederzeit möglich sein.
- Sicherheitsprüfungen: Dienste mit mehr als einer Million registrierter Nutzer oder 100.000 monatlich aktiven Nutzern müssen formelle Sicherheitsbewertungen durchlaufen.
- Algorithmische Ethik: Es ist verboten, KI zur Manipulation von Nutzern oder zur bewussten Suchterzeugung durch übermäßige emotionale Anpassung einzusetzen.
Während China bereits spezifische Regeln für emotionale KI erlässt, müssen auch europäische Unternehmen die strengen Vorgaben des EU AI Acts für ihre Systeme genau im Blick behalten. Dieser kostenlose Ratgeber hilft Ihnen, die komplexen Anforderungen und Risikoklassen der KI-Verordnung rechtssicher zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Schutz von Minderjährigen als zentrales Anliegen
Ein Schwerpunkt der Verordnung liegt auf dem Jugendschutz. Die Entwicklung virtueller intimer Beziehungen für Minderjährige unter 18 Jahren ist strikt untersagt. Für Nutzer unter 14 Jahren ist zudem die ausdrückliche Zustimmung der Erziehungsberechtigten erforderlich.
Die CAC betont, dass KI-Dienste reale soziale Kontakte nicht ersetzen oder untergraben dürfen. Der Schritt kommt nicht überraschend: Umfragen zufolge haben über 60 Prozent der chinesischen Minderjährigen KI-Tools genutzt, mehr als 20 Prozent gaben an, die Interaktion mit KI der mit echten Menschen vorzuziehen. Weitere Studien zeigten, dass über 70 Prozent der jungen Internetnutzer ein gewisses Maß an KI-Abhängigkeit entwickelt hatten – 23 Prozent berichteten von regelmäßiger Nutzung virtueller Partner.
Milliardenmarkt unter neuer Aufsicht
Die Regulierung trifft eine Branche im Boom. Der Markt für digitale Menschen wurde 2024 auf 4,1 Milliarden Yuan (rund 520 Millionen Euro) geschätzt – ein Anstieg um 85 Prozent gegenüber dem Vorjahr. Analysten hatten erwartet, dass der gesamte KI-Markt bis 2025 die Marke von 1,2 Billionen Yuan (rund 152 Milliarden Euro) überschreiten würde.
Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz bringen nicht nur neue Chancen, sondern auch weitreichende rechtliche Pflichten für Anbieter und Nutzer mit sich. Erfahren Sie in diesem kostenlosen Report, welche Risikoklassen existieren und was Unternehmen jetzt für eine saubere Dokumentation tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Die schiere Größe des Phänomens zeigt sich an Zahlen: Die Plattform Talkie verzeichnete im Dezember 2025 rund 23,5 Millionen monatliche Nutzer, Xingye erreichte bis September 2025 fast 150 Millionen Nutzer. China ist damit die erste große Rechtsordnung weltweit, die spezifische Gesetze für immersive KI-Werkzeuge erlassen hat, die romantische oder familiäre Bindungen simulieren.
Das Inkrafttreten der Verordnung fällt zeitlich mit der Welt-KI-Konferenz (WAIC) 2026 zusammen, die vom 17. bis 20. Juli in Shanghai stattfindet. Dort wird die Staatliche Kommission für Entwicklung und Reform voraussichtlich weitere Aktionspläne für die globale KI-Zusammenarbeit vorstellen.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
