DRCF zu KI-Schäden: Entwickler und Betreiber sollen Verantwortung teilen

Die Verantwortung für Schäden, die durch künstliche Intelligenz entstehen, sollte nach Ansicht britischer Aufsichtsbehörden zwischen den an Entwicklung und Betrieb beteiligten Akteuren aufgeteilt werden.

Diese Positionierung formulierte das Digital Regulation Cooperation Forum (DRCF), in dem die britische Wettbewerbsbehörde CMA, die Finanzaufsicht FCA, die Datenschutzbehörde ICO sowie die Medien- und Telekommunikationsaufsicht Ofcom zusammengeschlossen sind.

Wie aus Berichten hervorgeht, betont das Gremium, dass bestehende Gesetze in den Bereichen Wettbewerb, Verbraucherschutz und Datenschutz auch für autonome KI-Agenten uneingeschränkt gelten. Unternehmen, die entsprechende Systeme einsetzen, werden demnach durch die Autonomie der Software nicht von ihrer Haftung entbunden.

Transparenzpflichten und Schutz bei agentischer KI

Besondere regulatorische Herausforderungen sieht das Aufsichtsforum bei sogenannter agentischer KI. Gemeint sind Systeme, die eigenständig Handlungen im Namen von Verbrauchern ausführen. Für diese Konstellationen verlangt das DRCF umfassende Aufklärung: Unternehmen sollen Betroffenen transparent darlegen, wann und auf welche Weise KI-Agenten agieren, wie eine Autorisierung erteilt wird und in welcher Form anfallende Daten genutzt werden.

Wer sich mit dem Einsatz autonomer Systeme befasst, muss die neuen regulatorischen Rahmenbedingungen genau kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Zudem fordert das Gremium klare Beschwerdemechanismen sowie eindeutige Rechtsbehelfswege, damit Verbraucher im Schadensfall effektive Möglichkeiten zur Gegenwehr haben. Auch das Marktforschungsunternehmen Gartner wies darauf hin, dass die Zahl der Rechtsstreitigkeiten im Zusammenhang mit KI-gestützten Entscheidungen zunehme.

Zuteilung der Haftung und künftige Arbeitspläne

Die genaue Ausgestaltung und Zuteilung der geteilten Verantwortung soll im Mittelpunkt der nächsten Arbeitsphase des Aufsichtsbündnisses stehen. Derzeit läuft beim DRCF die Konsultation zum Arbeitsplan für den Zeitraum 2026 bis 2027.

Die rechtssichere Einordnung von KI-Systemen wird für Unternehmen zunehmend komplexer. Ein neuer Gratis-Report klärt auf, welche KI-Systeme als Hochrisiko gelten und welche konkreten Dokumentationspflichten Verantwortliche jetzt erfüllen müssen. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen

Parallel vermeldete das Forum den erfolgreichen Abschluss eines Pilotprojekts namens AI and Digital Hub. Das einjährige Programm, das Unternehmen kostenlose und behördenübergreifende Beratung bot, wurde nun in einen themenbezogenen Innovationshub überführt. Dessen erster Schwerpunkt widmet sich ebenfalls der agentischen KI.