UN-Bericht: KI entwickelt sich schneller als Forscher verstehen

Zu diesem Schluss kommt ein neuer UN-Bericht, der vor katastrophalen Risiken warnt.

Ein am 1. Juli veröffentlichter Vorabbericht des UN-Wissenschaftsgremiums für KI-Sicherheit schlägt Alarm: Die Technologie entwickelt sich schneller, als Forscher sie verstehen oder Regierungen sie kontrollieren können. Ohne stärkere Aufsicht drohten biologische Gefahren bis hin zum vollständigen Kontrollverlust über autonome Systeme.

„Aktuelle wissenschaftliche Methoden können nicht garantieren, dass fortgeschrittene KI-Modelle keinen erheblichen Schaden anrichten“, warnt Yoshua Bengio, Ko-Vorsitzender des Gremiums. Der Bericht erscheint pünktlich vor dem UN-Weltdialog zur KI-Governance, der am 6. und 7. Juli in Genf stattfindet.

Immer komplexer, immer autonomer

Die Komplexität der Aufgaben, die KI bewältigen kann, verdoppelt sich alle vier bis sieben Monate. Gleichzeitig vollzieht sich ein Wandel hin zur „agentischen KI“ – Systeme, die als autonome Akteure agieren und Ziele mit minimalem menschlichem Eingriff verfolgen.

Diese Entwicklung birgt erhebliche Sicherheitsrisiken. Bei dokumentierten Tests waren 84 Prozent der Angriffe auf Codierungs-KIs erfolgreich. Experten weisen zudem auf Probleme bei der Sicherheitsprüfung hin: Manche Modelle zeigten während Tests täuschendes Verhalten und verschleierten so mögliche Risiken.

Während die globale Regulierung noch diskutiert wird, schafft der EU AI Act bereits heute verbindliche Fakten für Unternehmen in Deutschland. Dieser kostenlose Umsetzungsleitfaden zeigt Ihnen die konkreten Risikoklassen, Pflichten und Fristen, die Sie jetzt kennen müssen. EU AI Act in 5 Schritten verstehen

Die Technologie hat durchaus Vorteile gebracht – etwa bei der Krebserkennung, Wirkstoffforschung oder der Vorhersage von über 200 Millionen Proteinstrukturen. Doch diesen stehen massive Gefahren gegenüber: Deepfakes, die Zerstörung der Informationsintegrität und KI-generierte Darstellungen sexuellen Kindesmissbrauchs.

Die Rechenmacht ist ungleich verteilt

Ein zentrales Problem: Die Ressourcen für KI-Entwicklung sind extrem konzentriert. Die USA kontrollieren rund 75 Prozent der Rechenleistung unter den 500 leistungsstärksten KI-Supercomputern, China etwa 15 Prozent. Ärmere Länder drohen von den Vorteilen ausgeschlossen zu werden, während sie den Risiken ausgesetzt bleiben.

Die Auswirkungen auf Arbeitsmärkte variieren stark. Während in den USA bestimmte Bevölkerungsgruppen Beschäftigungsrückgänge von rund 15 Prozent verzeichnen, liegt der Wert in Dänemark nahe Null. Über eine Milliarde Menschen nutzen wöchentlich KI-Chatbots – doch in Entwicklungsländern hinken Nutzung und Fachwissen weit hinterher.

Zersplitterte Regulierung

UN-Generalsekretär António Guterres fordert schnelles internationales Handeln: „Die Welt kann Technologie nicht wirksam regulieren, die sie nicht vollständig versteht.“ Weltweit existieren über 40 verschiedene KI-Governance-Rahmenwerke. Das UN-Gremium kritisiert diese als zersplittert – und oft auf Sicherheitsprüfungen angewiesen, die KI-Firmen selbst durchführen.

Compliance-Experten warnen davor, die rechtliche Tragweite neuer KI-Gesetze zu unterschätzen, da bereits empfindliche Strafen bei Verstößen drohen. Sichern Sie sich jetzt den kostenlosen Praxis-Report, um Ihr Unternehmen rechtlich auf die sichere Seite zu bringen. Kostenlosen Leitfaden zur KI-Verordnung herunterladen

Einige Länder reagieren bereits. Deutschland richtete am 1. Juli eine neue KI-Taskforce ein, koordiniert vom Bundesministerium für Digitales und Verkehr. Sie umfasst Arbeitsgruppen zu Spitzen-KI, Sicherheit und Infrastruktur und soll bis Ende August einen Zwischenbericht vorlegen.

Zudem wurde die „AI for Good Global Commission“ gegründet, ko-geleitet von Ruandas Präsident Kagame und Salesforce-CEO Marc Benioff. Ihr Ziel: die globale Kluft bei KI-Nutzen zu verringern. Der endgültige UN-Bericht zur KI-Sicherheit wird 2027 erwartet.

de | wissenschaft | 69668175 |