Agentische KI: DSCI schlägt geteilte Haftung entlang der Wertschöpfungskette vor

Die Branchenorganisation DSCI hat ein neues Rahmenwerk unter dem Titel „AI Liability: Industry Guidance for Agentic AI“ vorgelegt. Das Dokument schlägt vor, die rechtliche Verantwortung für autonome Softwaresysteme über die gesamte technologische Wertschöpfungskette hinweg aufzuteilen.

Maßgeblich für die Zuweisung von Pflichten und Risiken sollen demnach die konkreten Entscheidungen sowie die faktischen Kontrollmöglichkeiten der jeweiligen Akteure sein.

Nach Auffassung der Organisation greift eine rein organisatorische Zuweisung der Haftung zu kurz. Modelle, die Schäden pauschal entweder allein den betreibenden Unternehmen oder ausschließlich den ursprünglichen Modellentwicklern anlasten, seien rechtlich verfehlt.

Agentische Systeme bestünden aus komplexen, mehrstufigen Gefügen: Sie verknüpfen Basismodelle mit spezifischen Instruktionen, Schnittstellenintegrationen, automatisierten Werkzeugaufrufen und fortlaufenden menschlichen Eingriffen.

Da die Kontrolle über diese einzelnen Prozessschritte meist bei unterschiedlichen Beteiligten liege, müsse sich auch die juristische Verantwortlichkeit an diesen tatsächlichen Einflusssphären orientieren.

Kontrast zu pauschalen Betreiberpflichten

Der Vorstoß steht im deutlichen Kontrast zu anderen aktuellen Regulierungsansätzen. So legte die indische Telekommunikationsaufsicht TRAI am 30. Oktober 2026 einen Entwurf für den Einsatz künstlicher Intelligenz in Telekommunikationsnetzen vor, der eine Kommentierungsfrist bis zum 27. November 2026 vorsieht.

Während die globale Debatte über Haftungsfragen bei autonomen Systemen zunimmt, müssen Unternehmen bereits heute konkrete gesetzliche Anforderungen erfüllen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Der TRAI-Entwurf nimmt Netzwerkbetreiber vollumfänglich in die Pflicht: Sie sollen für die Ergebnisse aller eingesetzten KI-Systeme haften – ausdrücklich auch für solche, die von externen Anbietern zugekauft wurden.

Zudem sieht die Initiative der Regulierungsbehörde strikte Vorgaben vor, darunter vom Vorstand genehmigte Leitlinien mit einer Einreichungsfrist von sieben Werktagen bei der Behörde, verbindliche Einstufungen in drei Risikoklassen sowie Tests vor der Inbetriebnahme. Ernsthafte Vorfälle müssten in einer zentralen Datenbank erfasst und an die Aufsicht gemeldet werden. Zusätzliche Strafen führt der Entwurf indes nicht ein.

Wachsende Debatte über Zurechnung und Aufsicht

Die Frage, wie autonome Handlungsvollmachten von Softwareprogrammen rechtlich abgebildet werden, beschäftigt Regulierer und Standardisierungsgremien weltweit.

Das US-Standardisierungsinstitut NIST veröffentlichte am 27. Oktober 2026 zehn Grundsätze für Identität, Authentifizierung und Autorisierung agentischer Systeme, bei denen unter anderem die Sicherung der Aufsicht und die Begrenzung von Zugriffsberechtigungen im Mittelpunkt stehen.

Die rechtliche Einstufung von KI-Systemen wird für die Compliance-Struktur in Unternehmen immer entscheidender, insbesondere bei der Frage nach Hochrisiko-Anwendungen. Dieser kostenlose Report klärt auf, welche neuen Regeln die EU-KI-Verordnung aufstellt und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum AI Act anfordern

Am 30. Oktober 2026 forderte der Vorsitzende des zuständigen US-Ausschusses, James Comer, vom Gouverneur des Bundesstaates Delaware Unterlagen zu einem Vorschlag an, der KI-Agenten die Führung von Gesellschaften gestatten und handelnde Personen von der Haftung freistellen würde.

Auch die Entwickler selbst verweisen auf die unklare Rechtslage. Anthropic wies am 26. Oktober 2026 in Pflichtmitteilungen an die US-Börsenaufsicht SEC darauf hin, dass vertragliche Haftungsausschlüsse möglicherweise rechtlich nicht durchsetzbar sind.

Mit dem nun vorgelegten Modell versucht die DSCI, eine differenzierte Zuordnung zu etablieren, bevor starre Haftungsregeln die praktische Arbeitsteilung bei der Softwareentwicklung rechtlich überholen.