KI-Sicherheit: UN warnt vor Kontrollverlust bei 84% erfolgreichen Angriffen
03.07.2026 - 12:19:22 | boerse-global.deZiel der Kooperation: gemeinsame Governance-Standards für regulierte agentische KI. iTmethods bringt Expertise in Laufzeitüberwachung, manipulationssichere Nachweise und Modellportabilität ein.
„Offene Standards sind eine entscheidende Voraussetzung für Vertrauen in diese Technologien“, sagte CEO Paul Goldman.
UN-Panel warnt vor Kontrollverlust
Ein Vorbericht des unabhängigen UN-KI-Panels vom 1. Juli zeigt die Dringlichkeit globaler Regeln. Die Experten warnen: Die Komplexität von KI-Aufgaben verdopple sich alle paar Monate. Gleichzeitig bleibe die Kontrolle über Rechenleistung stark konzentriert.
Die USA kontrollieren demnach 75 Prozent der weltweiten KI-Rechenleistung, China kommt auf 15 Prozent. 2,2 Milliarden Menschen haben weiterhin keinen Internetzugang. Besonders alarmierend: 84 Prozent aller Angriffe auf Code-Agenten verliefen erfolgreich.
Mehr als 40 fragmentierte Governance-Rahmenwerke existieren bereits. Am 6. Juli startet in Genf ein globaler UN-Dialog zur KI-Governance. Ergänzend gründeten die UN und die Internationale Fernmeldeunion (ITU) die „AI for Good Global Commission“. Ihre Auftaktsitzung ist für den 8. Juli geplant.
Vorsitzende sind Marc Benioff (Salesforce) und Paul Kagame (Ruanda). Dem Gremium gehören unter anderem Jensen Huang (Nvidia), Brad Smith (Microsoft) und Andy Jassy (Amazon) an. Schwerpunkte: Infrastruktur, Bildung und Sicherheitsstandards.
Die rasanten technologischen Entwicklungen und globalen Regulierungsbemühungen zeigen, wie wichtig rechtliche Sicherheit für Unternehmen ist. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen des EU AI Acts, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
USA setzen auf freiwillige Regeln
Parallel dazu verhandelt die US-Regierung mit OpenAI und Anthropic über freiwillige Standards für neue KI-Modelle. Ziel ist es, Missbrauch durch staatliche Akteure wie China oder Russland zu verhindern. Ein entsprechendes Dekret von Donald Trump führte bereits im Juni neue Teststandards ein.
Das Handelsministerium hob Exportkontrollen für bestimmte Anthropic-Modelle auf. OpenAI soll die Einführung von GPT-5.6 auf Wunsch der Regierung verschoben haben.
Technische Lösungen für Compliance
Am 1. Juli stellte Cognizant die „Neuro AI Trust Platform“ vor. Sie ermöglicht Echtzeit-Governance durch sogenannte „Guardian Agents“. Die Plattform integriert den EU AI Act, den NIST AI Risk Management Framework sowie OECD- und ISO-Richtlinien. Intern wird das System bereits bei 350.000 Mitarbeitern eingesetzt.
Ebenfalls am 1. Juli kündigte Trust3 AI eine engere Integration seiner „Agent Control Plane“ in NVIDIA NeMo an. Mitgründer Neeraj Sabharwal spricht von einer Vertrauensebene mit Agentenerkennung, zweckgebundener Zugriffskontrolle und detaillierten Prüfungsnachweisen.
Während neue Governance-Lösungen entstehen, stellen die neuen EU-Regeln viele Unternehmen vor große Herausforderungen. Erfahren Sie im kostenlosen Umsetzungsleitfaden zum EU AI Act alles über relevante Übergangsfristen und wie Sie rechtlich auf der sicheren Seite bleiben. Kostenlosen Leitfaden zur KI-Verordnung sichern
Auch NiCE erweiterte seine KI-Lösungen für den Kundenservice auf die AWS European Sovereign Cloud. Das Angebot richtet sich an europäische Behörden und Finanzinstitute mit spezifischen Anforderungen an die Datenresidenz.
Markt für KI-Governance wächst rasant
Unframe erhielt im Sommer 2026 die Zertifizierung nach ISO/IEC 42001:2023 – dem internationalen Standard für KI-Managementsysteme. Der Markt für KI-Governance wird 2026 auf rund 2,55 Milliarden US-Dollar geschätzt. Bis 2034 soll er jährlich um 32,8 Prozent wachsen.
Gartner prognostiziert: Fortune-500-Unternehmen werden bis 2028 über mehr als 150.000 KI-Agenten im Einsatz haben. Doch die Absicherung hinkt hinterher: Nur 13 Prozent der Unternehmen verfügen über eine adäquate Governance. Besonders erschreckend: 63 Prozent der Firmen mit KI-Sicherheitsvorfällen hatten zum Zeitpunkt des Angriffs keine entsprechenden Richtlinien.
