KI in der Medizin: Nature-Studie belegt ungleiche Datenschutzrisiken
30.06.2026 - 01:39:32 | boerse-global.de
Doch aktuelle Studien und regulatorische Debatten im Juni 2026 zeigen: Der Schutz sensibler Patientendaten und die Verlässlichkeit der Systeme haben erhebliche Optimierungspotenziale.
Ungleiche Risiken für unterrepräsentierte Gruppen
Eine Nature-Studie belegt, dass die Datenschutzrisiken beim Training medizinischer KI-Modelle nicht für alle Patientengruppen identisch sind. Personen aus unterrepräsentierten Gruppen tragen ein höheres Risiko, wenn ihre Daten für die Entwicklung solcher Modelle verwendet werden.
Entscheidende Faktoren sind der sozioökonomische Status, das Geschlecht, die ethnische Herkunft sowie die Art der Erkrankung. Die ungleiche Verteilung der Risiken führt laut den Autoren dazu, dass bereits benachteiligte Bevölkerungsgruppen im digitalen Gesundheitswesen zusätzliche Sicherheitsgefahren tragen.
Evidenzlücken bei KI-Systemen
Parallel zur Datenschutzdebatte gerät die wissenschaftliche Belastbarkeit von KI-Anwendungen in den Fokus. Christoph Wilhelm und Dr. Felix G. Rebitschek vom Harding-Zentrum für Risikokompetenz wurden dafür mit dem David-Sackett-Preis 2026 ausgezeichnet. Ihre systematische Übersicht belegt erhebliche Lücken in der Bewertung aktueller Systeme.
Die Untersuchung ergab: KI-Entscheidungssysteme werden nur selten anhand von Endpunkten evaluiert, die für Patienten unmittelbar relevant sind. Generative Sprachmodelle erfüllen die strengen Anforderungen an evidenzbasierte Gesundheitsinformationen derzeit nur eingeschränkt. Die Preisverleihung findet vom 30. September bis 2. Oktober in Göttingen statt.
Die Nature-Studie zeigt: Ungleiche Datenschutzrisiken betreffen vor allem unterrepräsentierte Patientengruppen. Mit unserem kostenlosen Leitfaden erhalten Sie 5 konkrete Strategien, um KI vertrauenswürdig einzusetzen – inklusive Risiko-Checkliste und Mitarbeiter-Einbindung. Jetzt Leitfaden anfordern
Fünf Strategien für vertrauenswürdige KI-Agenten
Die Wirtschaftsinformatik diskutiert verstärkt, wie sich Vertrauenswürdigkeit technisch und organisatorisch verankern lässt. Eine Veröffentlichung in der Fachzeitschrift HMD Praxis der Wirtschaftsinformatik vom Juni 2026 benennt fünf zentrale Gestaltungsempfehlungen.
Dazu gehören eine kontrastive Entscheidungstransparenz und eine gestufte Handlungsautonomie. Zudem wird eine proaktive Kommunikation von Unsicherheiten sowie ein prüfbares und korrigierbares Gedächtnis gefordert. Ein wesentlicher Aspekt: die domänenspezifische Kompetenzbegrenzung, damit KI-Systeme nur innerhalb validierter Einsatzbereiche agieren.
Strengere Regeln auf dem Weg
Auch politisch werden die Leitplanken enger gezogen. Die Datenschutzbehörden der G7-Staaten berieten Ende Juni in Paris über den Schutz von Grundrechten in einer automatisierten Umgebung. Im Zentrum standen Forderungen nach strengen Regeln für die Altersverifikation und den Schutz der Privatsphäre in Smart Homes. KI-gestützte Wearables wie Smart Glasses werden aufgrund potenzieller Überwachungsrisiken kritisch beobachtet.
Evidenzlücken bei KI-Entscheidungssystemen gefährden die Patientensicherheit. Der prämierte David-Sackett-Preis 2026 zeigt: Nur selten werden KI-Systeme an patientenrelevanten Endpunkten evaluiert. Unser Leitfaden hilft Ihnen, diese Lücken zu schließen – mit praktischen Schritten für Ihre Klinik. Sicherheitsleitfaden jetzt sichern
Zusätzliche Regulierung kommt von der EU. Ab dem 2. Dezember greift ein Verbot für KI-Anwendungen zur Erstellung sexualisierter Deepfakes. Es richtet sich an Anbieter und Nutzer und umfasst realistische Darstellungen intimer Handlungen. Satirische Inhalte bleiben unter bestimmten Bedingungen ausgenommen.
Für die praktische Einführung von KI empfehlen Experten wie die Prompt-Engineerin Susanne Renate Schneider, die Belegschaft frühzeitig einzubeziehen. Statt nur nach Nutzungswünschen zu fragen, sollten konkrete Probleme im Arbeitsalltag identifiziert werden. Skepsis unter Mitarbeitenden könne helfen, Fehlerquellen frühzeitig zu erkennen und die Systeme sicherer zu gestalten.
