KI-Sicherheit: 183 Vorfälle monatlich gefährden Unternehmens-Compliance

Geteilte Passwörter und ungeschützte Daten in KI-Apps gefährden die Compliance von Unternehmen massiv. Eine aktuelle Analyse deckt alarmierende Sicherheitslücken auf.

Die Nutzung generativer Künstlicher Intelligenz in Unternehmen entwickelt sich zunehmend zum Sicherheitsrisiko. Laut einer am heutigen Montag veröffentlichten Studie von Netskope kommt es monatlich zu rund 183 Vorfällen pro 10.000 Nutzer, bei denen sensible Informationen in KI-Anwendungen wie ChatGPT oder Claude landen. Besonders brisant: In 158 dieser Fälle handelt es sich um die Preisgabe von Quellcode.

Das Problem liegt in der verbreiteten Nutzung gemeinsamer Konten. Statt auf rollenbasierte Berechtigungen zu setzen, greifen viele Mitarbeiter auf geteilte Zugangsdaten zurück. Das untergräbt nicht nur die erforderlichen Prüfpfade für Regularien wie HIPAA, sondern umgeht auch die Identitätskontrollen, die etwa der NIST-Sicherheitsstandard SP 800 vorschreibt.

Gerichte ziehen rote Linien

Die rechtlichen Konsequenzen sind bereits spürbar. Im Fall „Morgan gegen V2X, Inc." erließ ein Bundesgericht Ende März eine einstweilige Verfügung: Der Kläger darf vertrauliches Beweismaterial nicht in kommerzielle KI-Plattformen hochladen. Richterin Maritza Dominguez Braswell stellte klar, dass dies nur mit vertraglichen Garantien zulässig ist – einschließlich der Zusicherung, dass die Daten nicht zum Training der Modelle verwendet werden.

Die unkontrollierte Nutzung von KI-Systemen kann schnell zum rechtlichen Risiko für die gesamte Compliance-Struktur werden. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, die neuen Anforderungen, Fristen und Pflichten rechtzeitig zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Auch der US-Bundeshandelsgerichtshof hat nachgezogen. Richterin Jane A. Restani verlangt von den Prozessparteien, sämtliche genutzten KI-Programme offenzulegen und zu versichern, dass keine Geschäftsgeheimnisse preisgegeben wurden.

Versicherer verschärfen Kontrollen

Die Berufshaftpflichtversicherer reagieren mit strengeren Prüfungen. Für die Verlängerungsrunde 2026 fordern Anbieter wie ALPS, CNA und Lawyers Mutual NC zunehmend Nachweise über die KI-Nutzung ihrer Kunden. Kanzleien müssen schriftliche KI-Richtlinien vorlegen, Anwaltsbestätigungen einreichen und detaillierte Nutzungsprotokolle führen.

Zwar gibt es noch keine spezifischen KI-Ausschlüsse in den Versicherungspolicen. Doch die Existenz interner Governance-Dokumente beeinflusst bereits die Einstufung in bevorzugte Risikoklassen.

Neben der rechtlichen Compliance stellt der Schutz von Geschäftsgeheimnissen bei der Nutzung neuer Technologien eine zentrale Herausforderung dar. Erfahren Sie in diesem kostenlosen Ratgeber, wie Sie Mitarbeiter und Dienstleister rechtssicher zur Verschwiegenheit verpflichten. Mitarbeiter und Dienstleister rechtssicher zur Geheimhaltung verpflichten – so geht's

Rekordstrafen für KI-Halluzinationen

Die Fehlnutzung von KI hat bereits zu historischen Strafen geführt. Ein Bundesgericht in Oregon verhängte im April eine Geldstrafe von rund 110.000 Dollar – die höchste KI-bezogene Strafe auf Bundesebene im Bundesstaat. In Wisconsin musste ein Bezirksstaatsanwalt im Februar erleben, wie 74 Anklagepunkte fallengelassen wurden, nachdem er KI-generierte Schriftsätze mit erfundenen Gerichtsurteilen eingereicht hatte.

Die Justiz reagiert unterschiedlich: Während der Oberste Gerichtshof von New Jersey eines der aktivsten Governance-Programme etablierte – inklusive verpflichtender Technologie-Fortbildung –, setzt der Nordbezirk von Alabama auf mildere Mittel. Richterin Madeline Hughes Haikala erinnert lediglich an die bestehende Pflicht zur Überprüfung von Inhalten.

Neue technische Angriffsvektoren

Sicherheitsforscher entdecken ständig neue Schwachstellen. Aktuelle Berichte zeigen, dass KI-Programmierassistenten durch manipulierte Fehlermeldungen gekapert werden können – ohne Phishing oder Schadsoftware. Zudem wurden Sicherheitslücken in der Verschlüsselungssoftware BitLocker gefunden, die Angreifern Tür und Tor öffnen.

Für Unternehmen bedeutet das: Wer KI-Tools einsetzt, muss Sicherheitskonzepte nachschärfen. Sonst drohen nicht nur Datenverluste, sondern empfindliche Strafen und Imageschäden.

de | wissenschaft | 69652486 |