EU AI Act ab August: Neue Compliance-Anforderungen für KI-Systeme

Der Grund: Immer mehr Unternehmen setzen autonome KI-Agenten ein, die selbstständig Identitäten in Netzwerken generieren. Analysten von Context prognostizieren für das zweite Quartal 2026 einen deutlichen Anstieg der Investitionen – während die Ausgaben für klassische Sicherheitshardware parallel sinken.

Der Druck kommt nicht nur von der Technologie selbst. Ab August 2026 werden Teile des EU AI Act verbindlich. Hinzu kommen Verordnungen wie NIS2 und DORA, die Unternehmen zwingen, ihre Sicherheitsinfrastruktur anzupassen.

Die neuen gesetzlichen Anforderungen der EU-KI-Verordnung stellen viele Unternehmen vor enorme Herausforderungen bei der rechtssicheren Umsetzung. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Fristen, Pflichten und Risikoklassen des EU AI Act. EU AI Act in 5 Schritten verstehen

Kontrollverlust bei der KI-Einführung

Die steigenden Budgets täuschen über ein grundlegendes Problem hinweg: Viele Unternehmen haben ihre KI-Systeme nicht im Griff. Eine Studie von IBM vom 8. Juni 2026 zeigt: Zwei Drittel der befragten CIOs und CTOs schätzen die Kontrolle über die eingesetzten KI-Systeme als unvollständig ein. 77 Prozent geben an, dass die Geschwindigkeit der KI-Einführung die internen Steuerungskapazitäten übersteigt.

Die Analysten von Gartner sehen das kritisch. Sie prognostizieren, dass bis 2027 rund 40 Prozent der Unternehmen ihre autonomen KI-Agenten zurückstufen oder ganz abschalten werden. Grund sind Governance-Lücken, die erst im laufenden Betrieb sichtbar werden. Gartner empfiehlt eine proportionale Governance – abgestimmt auf den Autonomiegrad der Systeme.

Sicherheitslücken durch generative Systeme

Die Gefahr ist real. Bei Meta entdeckten Sicherheitsexperten am 31. Mai 2026 eine Schwachstelle in einem KI-gestützten Support-System. Angreifer hatten sie bereits seit dem 17. April ausgenutzt. Mit Prompt-Injection-Techniken erzwangen sie Passwortzurücksetzungen ohne Zwei-Faktor-Authentifizierung. Über 20.000 Instagram-Profile wurden übernommen – darunter Konten der US Space Force und der Kosmetikmarke Sephora.

Gartner identifizierte am 8. Juni vier kritische Risikofelder: Kompromittierung von KI-Anwendungen, Identitätsmissbrauch durch Deepfakes, Schwachstellen in Software-Lieferketten und Manipulation durch Prompt Injection.

Die Angreifer werden raffinierter. Der Sicherheitsanbieter Sophos entdeckte ein KI-gestütztes Ransomware-System, das auf Basis von Modellen wie Claude Opus 4.5 selbstständig Schadsoftware generierte. Es testete die Malware gegen gängige Sicherheitslösungen, um Erkennungsmechanismen zu umgehen.

Da Cyberangriffe durch neue KI-Technologien immer raffinierter werden, müssen Unternehmen ihre IT-Sicherheit proaktiv und ohne hohe Investitionen stärken. Erfahren Sie in diesem Gratis-E-Book, wie Sie Sicherheitslücken schließen und gleichzeitig die aktuellen gesetzlichen Anforderungen erfüllen. IT-Sicherheit stärken und Unternehmen schützen

Strategische Initiativen und regulatorische Weichenstellungen

Deutschland reagiert. Der nationale Sicherheitsrat beschloss die Einrichtung eines KI-Sicherheitsinstituts. Es soll zunächst virtuell arbeiten – unter Einbindung der Bundesnetzagentur und des Bundesamts für Sicherheit in der Informationstechnik (BSI). Die Bundesnetzagentur wird die zentrale Aufsichtsbehörde für den EU AI Act in Deutschland.

Auf europäischer Ebene wurde im Juni das „Tech Sovereignty Package“ vorgelegt. Der enthaltene Cloud and AI Development Act (CADA) führt vier Sicherheitsstufen für Cloud-Dienste ein. Ziel: die Abhängigkeit von außereuropäischen Anbietern verringern. Für besonders sensible Regierungsdaten sind die Stufen UAL3 und UAL4 vorgesehen – mit vollständiger Kontrolle innerhalb der EU.

Die Privatwirtschaft zieht nach. Am 7. Juni starteten IBM und Red Hat das „Project Lightwell“. Mit 5 Milliarden Euro Budget und 20.000 Ingenieuren soll die KI-gestützte Schwachstellenerkennung verbessert werden. Der Hintergrund: Aktuelle Warnungen der US-Behörde CISA vor aktiven Ausnutzungen von Schwachstellen wie CVE-2022-0492, die Container-Ausbrüche in Linux-Umgebungen ermöglichen.

de | wirtschaft | 69508812 |