KI-Agenten in Unternehmen: Britische Behörden bekräftigen Verantwortung

Unternehmen können sich bei Rechtsverstößen oder Schäden nicht hinter der Eigenständigkeit künstlicher Intelligenz verstecken. Die vier führenden britischen Digitalaufsichtsbehörden stellten klar, dass bestehende Gesetze und regulatorische Vorgaben uneingeschränkt für persönliche KI-Agenten gelten.

Die zunehmende funktionale Autonomie dieser Systeme mindere in keiner Weise die Verantwortung der Organisationen, die sie entwickeln oder im Geschäftsbetrieb einsetzen.

Die gemeinsame Erklärung wurde über das Digital Regulation Cooperation Forum veröffentlicht, in dem die Wettbewerbsbehörde CMA, die Datenschutzbehörde ICO, die Finanzaufsicht FCA und die Medien- und Telekommunikationsaufsicht Ofcom kooperieren.

Das Papier vom 30. Oktober 2026 umfasst rund zwei Seiten und führt keine neuen Regulierungsvorschriften ein. Stattdessen betont das Behördenbündnis bestehende Pflichten und kündigt an, bei Anhaltspunkten für Rechtsbrüche und drohende Nachteile die vorhandenen Aufsichtsbefugnisse entschlossen anzuwenden.

Umfassende Pflichten über Rechtsgebiete hinweg

Nach Auffassung der Regulierer betrifft der Einsatz autonomer Assistenten eine breite Palette an Vorgaben. Ausdrücklich genannt werden das Verbraucher- und Wettbewerbsrecht, Datenschutzbestimmungen, Regeln für Zahlungs- und Finanzdienstleistungen sowie Vorschriften zur Cybersicherheit und Online-Sicherheit.

Wer KI-Systeme im Unternehmen einsetzt, muss die neuen regulatorischen Anforderungen und Risikoklassen genau kennen. Dieser kostenlose Leitfaden verschafft Ihnen den nötigen Überblick über Fristen und Pflichten, die Ihre Rechts- und IT-Abteilung jetzt kennen muss. EU AI Act in 5 Schritten verstehen

Organisationen müssen die potenziellen Risiken vor der Inbetriebnahme eingehend prüfen und fortlaufend kontrollieren. Um Risiken rechtzeitig zu identifizieren, empfehlen die Aufsichtsstellen Unternehmen, entsprechende Produkte frühzeitig in geschützten Testumgebungen, sogenannten Sandboxes, zu erproben.

Parallel dazu führt das Information Commissioner's Office eine sechs-wöchige Konsultation zu den Risiken agentischer KI durch, die am 20. November 2026 endet. Bereits am 8. Oktober 2026 hatte die Behörde in einem Bericht festgehalten, dass zehn große Entwickler grundlegender KI-Modelle – darunter Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI und Stability AI – konkrete Anpassungen zugesagt haben.

Wachsender Druck auf betriebliche Kontrollsysteme

Die britische Initiative spiegelt eine breitere Debatte über die Beherrschbarkeit automatisierter Entscheidungen wider. Bereits Mitte Oktober 2026 formulierte das internationale Financial Stability Board zwölf unverbindliche Leitlinien für den Einsatz von KI in Finanzinstituten. Diese decken Governance, Datenqualität, Erklärbarkeit und Cyber-Resilienz ab und fordern eine menschliche Aufsicht, die dem Grad der Autonomie angemessen sein muss.

Die technologische Entwicklung bringt neue Bedrohungen und rechtliche Pflichten für die Unternehmensführung mit sich. Erfahren Sie in diesem kostenlosen Report, welche Cyberrisiken aktuell bestehen und wie Sie Ihre IT-Sicherheit ohne hohe Investitionen proaktiv stärken können. Gratis-Report zu Cyber Security und KI-Gesetzen herunterladen

Für Systeme mit Zugriff auf Finanztransaktionen oder sensible Daten empfiehlt das Gremium konkrete Sicherungen wie Transaktionslimits, Alarmsysteme in Echtzeit, strikte Funktionstrennungen sowie Notstopp-Mechanismen.

Auch Branchenvertreter warnen vor Kontrollverlusten durch neue Handelsprotokolle für Agenten. Nach Angaben von Wirtschaftsverbänden stoßen herkömmliche Modelle zur Systemvalidierung an ihre Grenzen, da das Prinzip der ständigen menschlichen Zwischenschaltung durch agentische Systeme grundlegend herausgefordert werde.

Vor dem praktischen Rollout müssten Betreiber daher verbindlich festlegen, welche Handlungen ein digitaler Assistent eigenständig ausführen darf, ob eingeleitete Schritte umkehrbar sind und an welchen Schwellenwerten zwingend ein Mensch die Steuerung übernehmen muss.