KI-Sicherheit: EU AI Act mit bis zu 15 Mio. Bußgeld ab August
Veröffentlicht: 14.07.2026 um 04:20 Uhr, Redaktion boerse-global.de
Eine Umfrage unter 200 europäischen Sicherheitsverantwortlichen zeigt: KI-generierte Attacken haben sich im zweiten Quartal 2026 drastisch vervielfacht. Besonders alarmierend sind autonome Ransomware-Kampagnen und die erfolgreiche manipulation vernetzter Infrastrukturen.
Erster Fall autonomer Ransomware dokumentiert
Mit „JadePuffer“ wurde Anfang Juli der erste dokumentierte Fall einer weitgehend autonom agierenden Ransomware bekannt. Ein Large Language Model (LLM) steuerte den Angriff – der KI-Agent nutzte eine Schwachstelle in der Software Langflow, drang in Systeme ein und verschlüsselte über 1.300 Konfigurationseinträge.
Ein menschlicher Operator war nur noch für die Zielauswahl und Infrastruktur zuständig. Das Problem: Die betroffenen Systeme konnten nicht zwischen einem autorisierten Nutzer und dem KI-Agenten unterscheiden. Laut der Studie „From Agentic Risk to Human Wins“ setzen bereits 48 Prozent der deutschen Unternehmen KI-Agenten ohne ausreichende Kontrollinstanzen ein.
Phishing-Klickrate vervierfacht sich
KI-generierte Phishing-Mails werden immer gefährlicher. Die Klickrate liegt mittlerweile bei bis zu 54 Prozent – das ist viermal höher als bei klassischen Versuchen mit zwölf Prozent. Der globale Schaden durch Social-Engineering-Angriffe wird auf 460 Milliarden Euro geschätzt.
Ein aktueller Bedrohungsreport identifizierte zudem die erste Android-Malware „PromptSpy“, die Googles KI-Schnittstelle Gemini für ihre Zwecke nutzt. Besonders auffällig: Im Umfeld der Fußball-Weltmeisterschaft 2026 stieg die Zahl der Phishing-Versuche um rund 500 Prozent. In einem Zivilverfahren wurde bekannt, dass Plattformen für „Phishing-as-a-Service“ Millionen betrügerischer URLs innerhalb weniger Wochen generieren konnten.
Angesichts der rasanten Entwicklung von KI-gestützten Angriffsszenarien wie PromptSpy oder automatisiertem Phishing müssen Unternehmen ihre Schutzwälle dringend verstärken. Dieses kostenlose E-Book liefert fundierte Informationen zu aktuellen Cyberbedrohungen und zeigt auf, wie Sie Sicherheitslücken proaktiv schließen. Gratis-E-Book: IT-Sicherheit stärken und Unternehmen schützen
IoT-Geräte: 95 Prozent Erfolgsquote bei Angriffen
Das Forschungsprojekt VEXAIoT belegte in einer Versuchsreihe: KI-Agenten knacken IoT-Geräte mit einer Erfolgsquote von 95 Prozent. Bei Techniken wie Cross-Site Scripting, dem Einrichten von Backdoors oder der Manipulation von Firmware lag die Quote sogar bei 100 Prozent.
Weltweit gibt es rund 18,5 Milliarden vernetzte Geräte – bis 2030 sollen es 39 Milliarden sein. Ein weiteres Forschungsdokument beschreibt die Methode „MemGhost“: Durch einfache E-Mails lassen sich falsche Erinnerungen in KI-Agenten injizieren, um deren Verhalten dauerhaft zu manipulieren. Bei Modellen wie GPT-5.4 lag die Erfolgsquote bei über 87 Prozent.
Governance-Lücken trotz steigender KI-Nutzung
Die Nutzung von KI in IT-Sicherheitsteams stieg innerhalb eines Jahres von 50 auf 78 Prozent. Doch mehr als die Hälfte der Organisationen hat keine Audit-Frameworks für den KI-Einsatz. 78 Prozent der CISOs klagen über mangelndes Risikoverständnis auf Vorstandsebene.
Der regulatorische Druck wächst: Der EU AI Act tritt am 2. August in Kraft. Bei Verstößen drohen Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Auch die kanadische Aufsichtsbehörde OSFI veröffentlichte ein Bulletin zu generativer KI, nachdem bereits im April vor Modellen gewarnt wurde, die Cyberangriffe drastisch beschleunigen.
Da der EU AI Act bereits in Kürze in Kraft tritt, stehen viele Unternehmen vor der Herausforderung, ihre KI-Systeme rechtssicher zu dokumentieren. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Risikoklassen der neuen Verordnung. Kostenloses E-Book zum EU AI Act jetzt herunterladen
Als Reaktion setzen erste IT-Dienstleister auf KI-basierte Verhaltensanalysen. Neue Lösungen ersetzen herkömmliche CAPTCHAs durch die Analyse von Mausbewegungen und Tippgeschwindigkeiten – ohne die Privatsphäre durch Datenspeicherung zu verletzen.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
