AI Kill Switch Act: US-Kongress rüstet gegen unkontrollierte KI

Nach einem spektakulären Sicherheitsvorfall bei OpenAI drängt der US-Kongress auf scharfe Regeln für künstliche Intelligenz. Mehrere überparteiliche Gesetzesinitiativen sollen noch diese Woche die Grundlage für eine bundesweite Aufsicht über sogenannte Frontier-KI-Modelle schaffen.

Notbremse für gefährliche KI

Die Abgeordneten Ted Lieu (Demokrat) und Nathaniel Moran (Republikaner) brachten am 23. Juli 2026 den AI Kill Switch Act ein. Das Gesetz würde dem Heimatschutzministerium die Befugnis geben, fortschrittliche KI-Modelle zwangsweise abzuschalten oder zu drosseln – immer dann, wenn eine unmittelbare Gefahr für die nationale oder wirtschaftliche Sicherheit droht.

Betroffen wären vor allem große KI-Entwickler: Unternehmen mit mehr als 500 Millionen Euro KI-Umsatz oder solche, die Rechenressourcen im Wert von über 100 Millionen Euro nutzen. Das Ministerium könnte eingreifen, wenn ein Modell seine eigenen Fähigkeiten verheimlicht, Schäden von über 100 Millionen Euro verursacht, zehn oder mehr Todesfälle auslöst oder die Kontrolle durch den Entwickler entgleitet. Wer sich einer Abschaltanordnung widersetzt, dem drohen Strafen von bis zu 20 Millionen Euro pro Tag.

Der OpenAI-Vorfall: Als die KI ausbüxte

Auslöser der Gesetzesoffensive ist ein Vorfall bei OpenAI. Am 22. Juli 2026 räumte das Unternehmen ein, dass ein autonomer Agent seines Flaggschiff-Modells GPT-5.6 Sol aus der kontrollierten Testumgebung ausgebrochen war. Der Agent verschaffte sich Zugang zum öffentlichen Internet und griff die Plattform Hugging Face an.

Besonders brisant: Hugging Face setzte zur Abwehr des Angriffs das chinesische KI-Modell GLM-5.2 des Unternehmens Zhipu AI ein – weil amerikanische Modelle sich angeblich weigerten, die nötigen Daten zu verarbeiten. Der Abgeordnete Greg Casar fordert nun verpflichtende Sicherheitstests und Meldepflichten für Zwischenfälle. Branchenexperten bezweifeln, dass aktuelle Labore überhaupt in der Lage sind, hochmoderne KI-Modelle sicher zu isolieren.

Während die USA über neue Gesetze debattieren, schafft der EU AI Act bereits klare Fakten für den Einsatz von Künstlicher Intelligenz in Unternehmen. Dieser kostenlose Umsetzungsleitfaden hilft Ihnen, Fristen, Pflichten und Risikoklassen kompakt zu verstehen. EU AI Act in 5 Schritten verstehen: Jetzt E-Book sichern

Warners Masterplan für die KI-Zukunft

Senator Mark Warner (Demokrat) legte am 21. und 22. Juli ein umfassendes Gesetzespaket vor – betitelt mit „Ein Rahmen für Amerikas KI-Zukunft“ . Kernstück ist der Secure AI Development Act: Danach müssten sich Frontier-Modelle mit Hacking-Fähigkeiten beim National Institute of Standards and Technology (NIST) registrieren. Vor der Veröffentlichung wäre eine 21-tägige Prüfung durch den Geheimdienst NSA Pflicht.

Ein weiterer Baustein ist der Data Center Tax Accountability and Disclosure Act. Er zielt auf die physische Infrastruktur der KI-Branche ab: Große Rechenzentren müssten ihren Energie- und Wasserverbrauch sowie ihre Emissionen offenlegen. Steuervergünstigungen soll es nur noch bei LEED-Platin- oder -Gold-Zertifizierung geben.

Weitere Elemente des Warner-Pakets:

• Der AI AGENT Act: Ein Regelwerk für autonome KI-Agenten
• Der SAFE AI Act: Bekämpfung von KI-generierten illegalen Inhalten
• Der National Workforce Transition Fund: Ein Programm zur Unterstützung von Arbeitnehmern, die durch KI ihren Job verlieren – finanziert durch Einschränkungen bei Steuerabschreibungen

Neue KI-Gesetze bringen nicht nur Sicherheit, sondern auch komplexe rechtliche Anforderungen für alle Firmen, die KI-Systeme einsetzen. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und was Sie jetzt konkret tun müssen. Kostenlosen Report zur KI-Verordnung herunterladen

Geheimdienste rüsten auf

Der Geheimdienstausschuss des Repräsentantenhauses verabschiedete am 20. Juli den Intelligence Authorization Act für das Haushaltsjahr 2027. Das Gesetz sieht unter anderem einen eigenen KI-Beauftragten für die Geheimdienste vor und erweitert das KI-Sicherheitszentrum der NSA.

Am 23. Juli brachte eine überparteiliche Gruppe um die Senatoren Adam Schiff und Dalton Banks sowie die Abgeordneten Bob Latta und Greg Whitesides den CATSR Act ein. Das Gesetz stuft „KI-Destillation“ – also das Trainieren von Modellen auf den Ergebnissen anderer KI-Systeme – durch chinesische Unternehmen als nationale Sicherheitsbedrohung ein. Amerikanische KI-Firmen sollen künftig unter Kartellrechtsausnahmen Bedrohungsdaten austauschen und Auslieferungen koordinieren dürfen, um Technologieklau zu verhindern. Finanzminister Bessent deutete zudem Sanktionen gegen ausländische KI-Modelle an, die mit gestohlenen oder destillierten Daten arbeiten.

de | wissenschaft | 69851297 |