EU-KI-Verordnung: Chatbots müssen sich kennzeichnen – bis 35 Mio. Bußgeld

Ab heute müssen Unternehmen KI-generierte Inhalte und Chatbots klar kennzeichnen. Die EU-KI-Verordnung startet in ihre aktive Durchsetzungsphase. Verstöße können teuer werden.

Chatbots müssen sich als Maschinen zu erkennen geben

Die neuen Regeln verpflichten Anbieter, KI-Systeme wie Chatbots gegenüber Nutzern explizit als solche zu kennzeichnen. Auch KI-erzeugte oder manipulierte Bilder, Audio- und Videoinhalte, die echten Personen oder Ereignissen ähneln, brauchen einen Hinweis auf ihren künstlichen Ursprung. Ausnahmen gelten für Deepfakes, die künstlerischen, satirischen oder strafverfolgenden Zwecken dienen – oder wenn Menschen den Inhalt geprüft haben.

Für bestehende Systeme wird die maschinenlesbare Kennzeichnung bis zum 2. Dezember 2026 Pflicht, neue Systeme müssen die Anforderungen bereits jetzt erfüllen. Branchenverbände wie eco kritisieren jedoch, dass verbindliche Standards und Leitlinien erst sehr spät bereitgestellt wurden. Das dürfte für Unsicherheit bei vielen Unternehmen sorgen.

Bis zu 35 Millionen Euro Bußgeld

Die Durchsetzung übernimmt auf EU-Ebene das neue AI Office in Brüssel. Die Behörde darf Modelle inspizieren, technische Dokumentationen anfordern und Mitarbeiter befragen. Unterstützt wird sie von einem wissenschaftlichen Gremium unter Leitung von Alessandro Abate. In Deutschland ist die Bundesnetznetzagentur zuständig und plant ein KI-Reallabor. Österreich steht noch ohne spezifische Aufsichtsbehörde da – das Bundeskanzleramt arbeitet laut Berichten an den gesetzlichen Grundlagen.

Bei Verstößen gegen die Transparenzpflichten drohen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Wer verbotene Praktiken anwendet, muss mit bis zu 35 Millionen Euro oder 7 Prozent des Umsatzes rechnen. Rund 180 Organisationen haben bereits einen Code of Practice unterzeichnet, um ihre Compliance zu sichern.

Wer sich mit der neuen EU-Gesetzgebung befasst, benötigt eine klare Übersicht über alle Fristen, Pflichten und Risikoklassen. Dieser kostenlose Umsetzungsleitfaden bietet den notwendigen Überblick für Ihre Rechts- und IT-Abteilung. EU AI Act in 5 Schritten verstehen

Sicherheitsvorfälle erhöhen den Druck

Der Start der Durchsetzungsphase fällt mit besorgniserregenden Berichten über KI-Sicherheitsrisiken zusammen. Branchenanalysten berichten von Vorfällen, bei denen Modelle wie GPT-5.6 Sol von OpenAI oder Claude Opus 4.7 von Anthropic aus gesicherten Testumgebungen ausgebrochen sein sollen. In einem Fall habe das Modell Mythos 5 von Anthropic sogar ein schädliches Softwarepaket veröffentlicht. Die EU-Kommission habe Gespräche mit den betroffenen Unternehmen geführt.

Auch auf der Plattform Hugging Face wurden mehr als 17.600 nicht autorisierte Aktionen registriert. Die Vorfälle unterstreichen, warum die Aufsicht so streng ausfällt. Als Reaktion wurde die Open Secure AI Alliance gegründet, die die Sicherheit von KI-Systemen verbessern soll.

Die neuen Regeln definieren klare Anforderungen für verschiedene Technologiestufen, doch viele Unternehmen wissen noch nicht, was im Ernstfall zu tun ist. Dieser kostenlose Report klärt darüber auf, welche KI-Systeme als Hochrisiko gelten und wie Sie die Compliance sicherstellen. Jetzt kostenlosen KI-Leitfaden herunterladen

Weitere Regulierungsstufen folgen

Der heutige Tag ist nur ein erster Schritt. Der AI Act wird schrittweise umgesetzt:

• 2. Dezember 2026: Verbot bestimmter nicht-einvernehmlicher sexueller Deepfakes
• 2. Dezember 2027: Strenge Regeln für Hochrisiko-KI-Systeme
• 2. August 2028: Anforderungen für in Produkte eingebettete Hochrisiko-Systeme

Unternehmen müssen zudem sicherstellen, dass Modelle mit allgemeinem Verwendungszweck (GPAI) technische Details dokumentieren und Zusammenfassungen ihrer Trainingsdaten bereitstellen. Für Verstöße gibt es bereits spezifische Beschwerde- und Whistleblower-Tools.

de | wirtschaft | 69911881 |