KI-Sicherheit in Unternehmen: Nur 11 Prozent haben spezielle Vorfallprozesse
Veröffentlicht am: 14.10.2026 um 03:00 Uhr | Redaktion boerse-global.de
Der Plattformanbieter Glean hat am 8. Oktober 2026 detailliert dargelegt, wie das Unternehmen wiederverwendbare KI-Skills innerhalb seiner Plattform absichert. Das nach Anbieterangaben allgemein verfügbare Schutzkonzept setzt auf engmaschige Prüfmechanismen entlang des gesamten Lebenszyklus von KI-Fähigkeiten sowie auf eine strikte Trennung von sensiblen Zugangsdaten und Ausführungsumgebungen.
Mehrstufige Prüfungen und isolierte Ausführung
Die Sicherheitsarchitektur von Glean greift an mehreren Kernpunkten an: Überprüfungen erfolgen bei der Erstellung, dem Import, der Weitergabe sowie bei nachträglichen Änderungen von KI-Skills. Dabei werden nicht nur die grundlegenden Anweisungen analysiert, sondern auch hinterlegte Beispiele, Beilagen und Referenzen systematisch untersucht.
Um das Risiko von Systemkompromittierungen zu minimieren, setzt das Konzept auf eine isolierte Ausführung der Skills. Zudem werden Zugangsdaten nicht innerhalb der KI-Fähigkeit selbst verarbeitet, sondern außerhalb des Skills vermittelt. Dies soll verhindern, dass Berechtigungen unbefugt abgegriffen oder über manipulierte Befehle zweckentfremdet werden.
Abwehr von Prompt Injection und Lieferkettenrisiken
Mit diesen Maßnahmen adressiert die Plattform konkrete Gefahrenmuster, die auch von internationalen Sicherheitsorganisationen hervorgehoben werden. Das Open Worldwide Application Security Project (OWASP) verweist in diesem Zusammenhang auf indirekte Prompt Injection als wachsende Bedrohung.
Welche KI-Systeme im Unternehmen als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen, um neue Sicherheitsvorgaben zu erfüllen, klärt dieser kostenlose Report auf. EU AI Act Umsetzungsleitfaden jetzt kostenlos herunterladen
Bei diesem Angriffsszenario wird ein Sprachmodell über externe Inhalte wie manipulierte Dateien oder Webseiten beeinflusst. Als wirksame Gegenmaßnahmen gelten die Vergabe minimaler Zugriffsrechte sowie eine strikte Trennung nicht vertrauenswürigter Inhalte vom restlichen System.
Glean orientiert sich zudem an Empfehlungen der britischen Cybersicherheitsbehörde NCSC, die Leitlinien für Lieferketten und Dokumentation im KI-Bereich formuliert hat. Die Behörde rät dazu, vollständige Dateiverzeichnisse zu prüfen sowie Herkunft, Versionen, Skripte und Referenzen von Komponenten lückenlos zu erfassen. Zudem sollten KI-Funktionen vor dem Produktiveinsatz mit erfundenen Daten in einer begrenzten Testumgebung überprüft werden.
Wachsender Handlungsdruck bei der Absicherung autonomer Agenten
Die Notwendigkeit spezifischer Schutzkonzepte für KI-Systeme gewinnt in der IT-Sicherheit zunehmend an Bedeutung. Frank Thias, Senior Principal Solutions Engineer bei F5 Networks, betonte in diesem Kontext, dass KI-Sicherheit nicht automatisch durch klassische IT-Schutzmaßnahmen abgedeckt werde.
Zu den oft unterschätzten Gefahren zählten neben Prompt Injection auch die unbeabsichtigte Offenlegung sensibler Daten, manipulierte Ausgaben und unzureichende Kontrollen bei externen Modellen.
Wer die Sicherheit der IT-Infrastruktur stärken will, ohne massiv investieren zu müssen, findet in diesem E-Book wertvolle Ansätze zum Schutz vor modernen Cyberbedrohungen. Gratis-E-Book: IT-Sicherheitslücken effektiv schließen
Mit dem Übergang zu autonomen KI-Agenten verschiebe sich zudem das Risikoprofil, da aus einem fehlerhaften oder manipulierten Ergebnis unmittelbar eine schädliche Handlung im System resultieren könne. Als Leitplanken forderte Thias minimale Rechte, Rollentrennung, umfassende Protokollierung sowie eine menschliche Freigabe für kritische Vorgänge.
Dass in vielen Betrieben bei der Absicherung noch Nachholbedarf besteht, zeigt die KI-Sicherheitsstudie 2026 des TÜV-Verbands und des Bundesamts für Sicherheit in der Informationstechnik (BSI), für die 505 Unternehmen befragt wurden.
Zwar nutzen demnach 49 Prozent der Unternehmen KI und weitere 9 Prozent planen den Einsatz, doch verfügen lediglich 11 Prozent der Firmen mit bestehender oder geplanter Nutzung über spezielle Prozesse für KI-Sicherheitsvorfälle.
Zugleich befürchten 84 Prozent Fehlentscheidungen durch KI-Agenten auf Basis falscher oder erfundener Informationen, und jeweils 78 Prozent sehen erhebliche Risiken bei Schnittstellen zu Drittsystemen sowie bei ungewollten Aktionen.
Spezifische Sicherheitsmechanismen für Skills und Schnittstellen, wie sie nun verstärkt implementiert werden, bilden daher einen zentralen Baustein, um den sicheren Betrieb automatisierter KI-Anwendungen im Unternehmensumfeld zu gewährleisten.
