KI in der Verwaltung: Sicherheit wird zum Schlüsselfaktor

Statt reiner Experimentierfreude stehen nun sichere Infrastruktur und strenge Regeln im Vordergrund. Wie gelingt der Spagat zwischen Innovation und Datenschutz?

Bundesbehörden setzen massiv auf KI

Die Nutzung von KI-Tools in US-Bundesbehörden ist explodiert. Laut einem Bericht der Brookings Institution vom 15. April stieg die Zahl der Anwendungsfälle 2025 auf über 3.600. Das entspricht einem Wachstum von 69 Prozent im Vergleich zum Vorjahr. Besonders datenintensive Ämter treiben die Entwicklung voran.

Während Behörden massiv aufrüsten, müssen auch Unternehmen die neuen rechtlichen Rahmenbedingungen für Künstliche Intelligenz im Blick behalten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Die Sozialversicherungsbehörde setzt KI bereits bei der Bearbeitung von Leistungsansprüchen ein. Bei Justiz- und Heimatschutzministerium unterstützen KI-Systeme in 54 bzw. 36 Prozent der Fälle die Strafverfolgung. Doch der Bericht warnt auch vor Bremsklötzen: Personalmangel, eine risikoscheue Kultur und umständliche Beschaffungsverfahren behindern den flächendeckenden Einsatz.

Trend zu kleinen, lokalen Sprachmodellen

Wohin entwickelt sich die Technik? Im öffentlichen Sektor gewinnen Small Language Models (SLMs) an Bedeutung. Eine Analyse des MIT Technology Review vom heutigen Donnerstag zeigt: Diese kleineren, spezialisierten Modelle sind ideal für sichere Umgebungen, in denen Daten nicht in die Cloud wandern dürfen.

Der Grund ist Misstrauen. Eine Studie von Capgemini ergab, dass 79 Prozent der Entscheider im öffentlichen Sektor Bedenken bezüglich der Datensicherheit haben. Marktforscher von Gartner prognostizieren daher, dass bis 2027 SLMs in Behörden dreimal häufiger genutzt werden als große Allzweck-Modelle. Sie gelten als Schlüssel, um KI einzuführen, ohne die Kontrolle über sensible Informationen zu verlieren.

Gesetzgeber zieht nach – von Illinois bis Berlin

Während die Technik voranschreitet, versuchen Gesetzgeber weltweit, mit Regulierungen Schritt zu halten. In den USA diskutierte das Parlament von Illinois Anfang April fast 50 KI-Gesetzesentwürfe. Im Fokus: Haftungsfragen, der Schutz Minderjähriger vor Chatbots und die Verhinderung diskriminierender KI im Personalwesen.

Die technologische Entwicklung von KI-Systemen stellt Unternehmen vor neue Herausforderungen bei der Einhaltung gesetzlicher Standards. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Compliance-Verantwortlichen, die neuen Anforderungen des Gesetzes bereits heute rechtssicher umzusetzen. Kostenlosen Leitfaden zur KI-Verordnung sichern

Auch Europa handelt. In Deutschland prüfen BaFin und Bundesbank derzeit die Cyberrisiken durch hochentwickelte KI-Modelle im Finanzsektor. Die Sorge: Könnten Angreifer diese Systeme nutzen, um veraltete Banken-IT anzugreifen? Als Reaktion starten Entwickler wie Anthropic bereits interne Sicherheitstests mit großen Finanzinstituten, bevor ihre Modelle öffentlich verfügbar werden.

Sicherheitsarchitekturen für autonome KI-Agenten

Eine besondere Herausforderung sind sogenannte agentische KI-Systeme, die eigenständig Arbeitsabläufe steuern. OpenAI kündigte heute entsprechende Sicherheitsupdates für sein Agents SDK an. Eine „Sandbox“-Architektur soll die Ausführung isolieren, sodass Fehler nicht das gesamte Netzwerk gefährden.

Diese Entwicklung ist dringend nötig. Denn der Druck, KI gewinnbringend einzusetzen, wächst auch bei den Herstellern. OpenAIs Finanzchefin Sarah Friar gab bekannt, dass der Umsatzanteil aus dem Geschäftskundenbereich von 20 Prozent (2024) auf 40 Prozent Anfang 2026 gestiegen ist. Das Ziel liege bei 50 Prozent bis Jahresende. Spezialmodelle für professionelle Anwender stehen hoch im Kurs.

Ausblick: Die Mischung macht's

Wie geht es weiter? Experten sind sich einig: Der langfristige Vorteil im Behörden-KI-Bereich wird denen gehören, die proprietäre Daten mit menschlicher Expertise kombinieren können. Die „Betriebsschicht“ – also Software, Governance und Feedback-Mechanismen – rückt in den Fokus.

Neue Anwendungen wie das kürzlich gestartete „Legal AGI Lab“ zeigen die Richtung: Es want agentische Systeme an demokratisch beschlossene Gesetze anbinden. Einfachere Entwickler-Tools könnten zudem kleineren Ämtern helfen, eigene Lösungen zu schaffen. Der Weg der KI in den öffentlichen Sektor bleibt jedoch ein Balanceakt – zwischen der Effizienz autonomer Systeme und der unabdingbaren menschlichen Kontrolle.

de | boerse | 69175342 |