KI-Therapie-Chatb Boom trotz Sicherheitslücken und Verbote

Eine aktuelle Untersuchung deckt gravierende Sicherheits- und Datenschutzmängel auf. Parallel verschärfen erste US-Bundesstaaten die Gesetze.

Die neuen EU-Regeln für künstliche Intelligenz betreffen viele Branchen – dieser kostenlose Leitfaden hilft Unternehmen, die Anforderungen des AI Acts schnell zu verstehen. EU AI Act in 5 Schritten verstehen

Die Gefahr einer „KI-Psychose“

Schätzungsweise fünf bis zehn Prozent aller KI-Nutzer – zig Millionen Menschen weltweit – suchen mittlerweile psychologische Hilfe bei Algorithmen. Doch die wissenschaftliche Skepsis wächst. Eine Studie prägte kürzlich den Begriff der „KI-Psychose“ und warnt vor unkalkulierbaren Wechselwirkungen in Krisensituationen.

Eine Untersuchung der Brown University identifizierte 15 spezifische ethische Risiken. Besonders kritisch: die Verlässlichkeit in Akutsituationen. Ein Test des spezialisierten Dienstes ChatGPT Health ergab, dass die KI bei jeder zweiten Notfall-Anfrage die Dringlichkeit herunterspielte. „Die mangelnde Einschätzung von Notfällen ist ein fatales Risiko“, ordnet Hausarzt Wolfgang von Meißner ein.

Skandal um sensible Gesundheitsdaten

Neben klinischen Bedenken rückt der Datenschutz in den Fokus. Eine Untersuchung von KFF Health News zeigt: Viele Anbieter garantieren die Vertraulichkeit der Nutzergespräche nicht ausreichend. Wie anfällig Systeme sind, demonstriert ein aktueller Vorfall bei VW Group Services.

Dort wurden seit Juni 2025 in internen Konferenzen sensible Gesundheitsdaten von rund 600 Mitarbeitern namentlich diskutiert. Die Landesdatenschutzbehörde ermittelt, erste Klagen liegen vor. Wenn etablierte Konzerne schon versagen, wie hoch ist dann das Risiko bei undurchsichtigen Chatbot-Plattformen?

Der Schutz sensibler Daten ist nicht nur eine technische, sondern auch eine rechtliche Herausforderung, die bei Fehlern hohe Bußgelder nach sich ziehen kann. Ein kostenloser Report klärt auf, wie Sie Risiken bei der Datenverarbeitung durch Dienstleister minimieren. Haftungsrisiken bei Auftragsverarbeitern vermeiden

Politik zieht die Notbremse

Die Regulierungen werden schärfer. Mitte April verbot der US-Bundesstaat Maine als einer der ersten den klinischen Einsatz von KI in der Psychotherapie. In Missouri drohen bei Verstößen bald Geldstrafen von bis zu 10.000 Dollar.

In Deutschland wird die Debatte von massiven Sparplänen überlagert. Bundesgesundheitsministerin Nina Warken (CDU) plant eine Reform mit 20 Milliarden Euro Einsparungen bis 2026. Verbraucherschützer kritisieren, dass Patienten 20 Prozent der Last tragen sollen. In diesem Spannungsfeld wird KI oft als Effizienzlösung beworben – trotz ungelöster Sicherheitsfragen.

Forschung zeigt kontrollierte Potenziale

Jenseits der umstrittenen Chatbots schreitet die KI-Integration in der Forschung voran. Das Projekt „AI-PREDICT“ an der Universität Erlangen-Nürnberg nutzt Deep Learning, um Frühwarnzeichen für Parkinson zu entdecken. Das Bundesforschungsministerium fördert das Vorhaben mit zwei Millionen Euro.

Experten wie Prof. Jens Kleesiek sehen in KI eine notwendige Stütze für das überlastete Gesundheitssystem. Voraussetzung seien jedoch hohe Datenstandards. „Wir müssen die Hoheit über klinische Entscheidungen behalten“, mahnt DGIM-Generalsekretär Prof. Georg Ertl.

Kluft zwischen Bedarf und Qualität

Die Dynamik offenbart eine tiefe Kluft. Während der Bedarf an psychologischer Hilfe explodiert – in Kärnten stiegen die Notfälle 2025 um 11,5 Prozent –, fehlen flächendeckend Therapeuten. In manchen Regionen finden Patienten im Umkreis von 100 Kilometern keinen Platz.

Dieser Engpässen bereitet den Boden für digitale Alternativen, selbst wenn sie noch mangelhaft sind. Die Zukunft könnte jedoch in spezialisierten, evidenzbasierten Werkzeugen liegen, die den Therapeuten ergänzen – statt ihn zu ersetzen.

de | boerse | 69205405 |