Google-KI im Visier: Landgericht Aachen untersagt falsche Arztbehauptung
Veröffentlicht am: 12.10.2026 um 17:39 Uhr | Redaktion boerse-global.de
Der Einsatz von Systemen mit künstlicher Intelligenz zur schnellen Beantwortung von Gesundheitsfragen gewinnt an Verbreitung, birgt jedoch erhebliche Gefahren.
Medienberichte warnen vor falschen Ratschlägen durch Chatbots wie ChatGPT bei Krankheiten sowie vor den Risiken schwerer Fehldiagnosen und gefährlicher Behandlungsempfehlungen, wie aus einem Bericht von mdr.de vom 12. Oktober 2026 hervorgeht.
Wenn Nutzer automatisierte Sprachmodelle anstelle medizinischen Fachpersonals konsultieren, kann dies zu gravierenden gesundheitlichen Fehleinschätzungen führen.
Falsche Ratschläge und gefährliche Fehldiagnosen
Die Warnungen betreffen diverse Einsatzbereiche digitaler Erkennungswerkzeuge. So weisen Experten laut einem Bericht vom 11. Oktober 2026 darauf hin, dass auch bei spezialisierten Anwendungen wie Pilz-Apps und KI fatale Verwechslungen drohen, beispielsweise bei der Unterscheidung von essbaren Stockschwämmchen und hochgiftigen Gifthäublingen.
Ein solches Fehlverhalten illustriert die grundsätzliche Problematik, wenn sich Verbraucher ohne fundierte Prüfung auf algorithmische Bestimmungen verlassen.
In der Praxis greifen viele Menschen im Krankheitsfall bereits primär auf digitale Quellen zurück. Ergebnisse der CLARO-Studie, an der 1.232 Bürger in Stuttgart teilnahmen, belegen dieses Verhalten: Suchmaschinen bilden die am häufigsten genutzte Informationsquelle, wenngleich Ärzte weiterhin als bevorzugte Ansprechpartner gelten.
Gleichzeitig verdeutlichte die Untersuchung Wissenslücken, da Falschinformationen – etwa über angebliche Gefahren durch Plastikflaschen, Deosprays oder genetisch modifizierte Organismen – mehrheitlich nicht als unzutreffend identifiziert wurden. Zudem berichtete jede zweite befragte Person, durch widersprüchliche Gesundheitsinformationen verunsichert zu sein.
Wer sich mit der Interpretation von Gesundheitsdaten befasst, sollte sich nicht allein auf automatisierte Chatbots verlassen, sondern fundiertes Hintergrundwissen nutzen. Dieser kostenlose Report erklärt verständlich, was wichtige Werte wirklich bedeuten und wie Sie Fehldiagnosen vermeiden können. Laborwerte-Selbstcheck: Jetzt Blutwerte besser verstehen
Haftung bei fehlerhaften Angaben
Neben direkten Fehleinschätzungen von Krankheitsbildern erzeugen algorithmische Textsysteme wiederholt nachweislich falsche Tatsachenbehauptungen im gesundheitlichen Kontext.
Das Landgericht Aachen untersagte dem Technologiekonzern Google mit Beschluss vom 24. September 2026 (Az. 8 O 268/26), im KI-Modus Falschbehauptungen über einen Arzt zu verbreiten. Das System hatte dem Mediziner fälschlicherweise eine Verurteilung wegen sexueller Nötigung zugeschrieben, die in Wirklichkeit eine andere Person betraf.
Das Gericht bejahte eine Verantwortlichkeit des Konzerns als Störerin und stützte den Unterlassungsanspruch auf eine analoge Anwendung von § 1004 Absatz 1 Satz 2 in Verbindung mit § 823 Absatz 1 des Bürgerlichen Gesetzbuches.
Die einstweilige Verfügung erging nach den §§ 935 und 940 der Zivilprozessordnung ohne vorherige mündliche Anhörung, wobei das Gericht auf eine Entscheidung des Landgerichts München I vom 28. Mai 2026 (Az. 26 O 869/26) verwies.
Angesichts der im Artikel beschriebenen rechtlichen Risiken und neuen Vorschriften ist ein präziser Überblick über die aktuelle Gesetzeslage für Fachabteilungen unerlässlich. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen eine kompakte Übersicht über alle relevanten Fristen und Pflichten der neuen EU-Regelungen. EU AI Act Umsetzungsleitfaden kostenlos herunterladen
Regulierungsansätze und Kontrollmechanismen
Angesichts der Fehleranfälligkeit fordern Fachleute verbindliche Kontrollmechanismen für KI-Anwendungen. Die IT-Ethikprofessorin Judith Simon stuft KI als reale Gefahr ein, bezeichnete Endzeitszenarien einer Ausrottung der Menschheit jedoch als unrealistisch.
Da das sogenannte Black-Box-Problem prinzipiell nicht vollständig lösbar sei, verlangte Simon umfassende Ex-ante-, Ex-post- und Echtzeitkontrollen. Zudem sprach sie sich für unabhängige Institutionen mit vollem Zugriff auf interne Daten der Modellentwickler sowie für eine persönliche Haftung von Unternehmen aus, um den Risiken automatisierter Fehlberatung wirksam zu begegnen.
