KI-Agenten in Unternehmen: Nur 13% haben Governance-Standards
Veröffentlicht am: 03.08.2026 um 20:09 Uhr | Redaktion boerse-global.de
Der Sicherheitsdienstleister KnowBe4 hat am 3. August 2026 die dringende Notwendigkeit für verifizierbare Identitäten und eine automatisierte Governance beim Einsatz externer KI-Agenten hervorgehoben. Angesichts der zunehmenden Integration autonomer Systeme in Unternehmensabläufe warnte Dr. Kawin Boonyapredee, CISO Advisor bei KnowBe4, vor erheblichen Sicherheitsrisiken. Dazu zählen unter anderem manipulierte Komponenten, Prompt Injection sowie das sogenannte Data Poisoning, bei dem schadhafte Daten aus öffentlichen Repositorien in die Lernmodelle der KI einfließen.
Massive Zunahme von KI-Komponenten in Cloud-Umgebungen
Die Warnungen stützen sich auf eine Entwicklung, die bereits seit geraumer Zeit zu beobachten ist. Laut Daten des Sicherheitsunternehmens Sysdig verzeichneten KI-Pakete in Cloud-Workloads zwischen 2024 und 2025 einen Zuwachs von fast 500 Prozent. Emanuela Zaccone von Sysdig betonte in diesem Zusammenhang die Notwendigkeit einer Echtzeit-Erkennung von Bedrohungen sowie die konsequente Umsetzung von Least-Privilege-Prinzipien und Zero-Trust-Architekturen für KI-Anwendungen in der Cloud.
Die Dimension der technologischen Umstellung wird durch Prognosen von IDC verdeutlicht, die bis zum Jahr 2028 von weltweit 1,3 Milliarden KI-Agenten ausgehen. Das damit verbundene Datenvolumen soll auf 527 Zettabyte ansteigen. Während der EU AI Act bereits einen rechtlichen Rahmen zur Klassifizierung von Risiken bietet, reagieren auch staatliche Stellen auf die technologische Entwicklung. So veröffentlichte Singapur Anfang August 2026 spezielle SAFR-Richtlinien für den sicheren Umgang mit KI-Agenten.
Diskrepanz zwischen Einführung und regulatorischer Kontrolle
Trotz der rasanten Verbreitung hinkt die organisatorische Absicherung in vielen Betrieben hinterher. Nach Erhebungen von SAP LeanIX haben bereits 98 Prozent der Unternehmen KI-Agenten eingeführt oder planen dies derzeit. Das Marktforschungsunternehmen Gartner prognostiziert, dass Fortune-500-Unternehmen bis 2028 jeweils mehr als 150.000 solcher Agenten im Einsatz haben werden. Demgegenüber steht jedoch die Feststellung, dass aktuell lediglich 13 Prozent dieser Organisationen über etablierte Governance-Strukturen für diese Technologie verfügen.
Wer die rasanten technologischen Entwicklungen rechtssicher begleiten möchte, benötigt einen klaren Überblick über die gesetzlichen Rahmenbedingungen. Dieser kostenlose Umsetzungsleitfaden hilft Unternehmen, die Anforderungen an Risikoklassen und Dokumentationspflichten des EU AI Acts schnell zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Um dem sogenannten „Agent Sprawl“ – einer unkontrollierten Ausbreitung von KI-Programmen – entgegenzuwirken, wurde unter anderem der SAP AI Agent Hub als zentrale Verwaltungslösung vorgestellt. Auch bei Microsoft-Anwendungen wie dem Copilot ist laut Experten von COSMO CONSULT Vorsicht geboten, da diese Systeme bestehende Nutzerrechte übernehmen. Eine sorgfältige Pflege der Berechtigungen sowie der Einsatz von Tools zur Data Loss Prevention seien daher unerlässlich.
Strategische Leitplanken für den Unternehmenseinsatz
Für die praktische Umsetzung im Mittelstand formulierte Jens Büscher, CEO von Amagno, klare Anforderungen. Da rund 70 Prozent der Unternehmen KI als strategisches Thema betrachten, aber gleichzeitig 60 Prozent besorgt über die Datensicherheit sind, empfiehlt Büscher fünf wesentliche Leitplanken. Dazu gehören die Begrenzung des Datenraums, strikte Berechtigungskontrollen, der Einsatz gekapselter Umgebungen, ein konsequenter Quellenbezug der KI-Antworten sowie eine abschließende menschliche Validierung. Ein Dokumentenmanagementsystem (DMS) sollte hierbei als Kontrollinstanz vor die KI geschaltet werden.
Neben der organisatorischen Absicherung rücken auch neue Einfallstore für Cyberkriminelle in den Fokus, die gezielt moderne Technologien für Angriffe nutzen. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und digitalen Bedrohungen Unternehmer jetzt kennen müssen, um ihre Firma proaktiv zu schützen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Dass KI bereits erfolgreich im Kundenkontakt eingesetzt wird, zeigt das Beispiel der Witt-Gruppe. Jan Rother, Head of AI, verwies auf den Einsatz eines Voicebots im Kundenservice. Er betonte jedoch, dass der Erfolg solcher Projekte von klar definierten Rollen, festen Übergabepunkten zwischen Maschine und Mensch sowie verlässlichen Kontrollinstanzen abhänge.
KnowBe4 rät Unternehmen abschließend dazu, sämtliche eingesetzte KI-Systeme umgehend zu inventarisieren und die Belegschaft umfassend zu schulen. Für kritische Aktionen müsse zudem zwingend das Prinzip „Human in the Loop“ gewahrt bleiben, um automatisierte Fehlentscheidungen oder Sicherheitsbrüche durch autonome Agenten zu verhindern.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf- oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
