Anthropic-Gesetzentwurf: KI-Eingriffe erst ab 50 Toten oder Milliarden-Schaden

Ein unveröffentlichter Gesetzesentwurf des KI-Entwicklers Anthropic sorgt in der US-Hauptstadt für erhebliche Kontroversen. Das Papier, das seit Mitte Oktober 2026 an Mitglieder des US-Kongresses verteilt wurde, sieht rigide Hürden für staatliche Eingriffe in die Technologie vor.

Bundesbehörden sollten demnach erst dann befugt sein, ein KI-Modell zu sperren, wenn ein vorhersehbares und unmittelbares Risiko von mehr als 50 Toten oder schweren Verletzungen droht oder ein Schaden von über 1 Milliarde US-Dollar im Raum steht.

Sicherheitsorganisationen und politische Beobachter kritisieren diese Vorgaben scharf: Die Schwelle liege unverhältnismäßig hoch und führe dazu, dass Technologiekonzerne ihre eigenen Sicherheitsstandards definierten.

Hohe Hürden und ein langwieriges Prüfverfahren

Der Entwurf sieht eine bedingte bundesstaatliche Vorrangregelung vor, die strengere Gesetze einzelner US-Bundesstaaten aushebeln könnte. Ein staatlicher Abschaltmechanismus bliebe laut dem Dokument auf lediglich drei eng gefasste Szenarien beschränkt: den Einsatz von Biowaffen, katastrophale Cyberangriffe oder den Fall, dass ein Modell vollständig der Kontrolle seiner Entwickler entgleitet.

Auch das vorgesehene behördliche Verfahren setzt enge Grenzen. Ein unabhängiger Kontrolleur beim US-Handelsministerium müsste einen Vorfall innerhalb von 72 Stunden melden. Das Ministerium müsste anschließend entscheiden, ob der Fall einem Bundesgericht vorgelegt wird, woraufhin ein Bundesrichter über die Freigabe des Modells urteilt.

Während international über Regulierungen gestritten wird, schafft die EU mit dem AI Act bereits klare Fakten für den Einsatz von Künstlicher Intelligenz. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Bislang hat kein Mitglied des US-Kongresses das Papier formell eingebracht. Sprecher von Anthropic erklärten, der Entwurf stehe im Einklang mit dem seit Juni vertretenen Rahmenwerk des Unternehmens für fortgeschrittene KI-Systeme. Zuvor hatte der Entwickler zwei KI-Sicherheitsgesetze in Kalifornien unterstützt. Gleichwohl zogen Verantwortliche aus dem Unternehmen Teile des Vorschlags rasch zurück.

Anthony Cimino, Leiter für Bundesangelegenheiten bei Anthropic, räumte am 18. Oktober 2026 ein, es sei womöglich an der Zeit, regulatorische Schwellenwerte neu zu bewerten. Am 22. Oktober 2026 distanzierte sich auch Anthropic-Chef Dario Amodei und bezeichnete das von seinem Team verteilte Papier als potenziellen Fehler.

Politischer Druck auf die KI-Branche wächst

Kritiker verweisen auf die Diskrepanz zwischen den hohen Hürden im Gesetzesvorschlag und den wiederholten öffentlichen Warnungen Amodeis vor existenzbedrohenden Risiken durch künstliche Intelligenz. Die Debatte fällt in eine Phase wachsender Spannungen zwischen der Technologiebranche und der US-Politik.

Am 24. Oktober 2026 forderten Vertreter des Weißen Hauses und des Kongresses die Führungskräfte führender KI-Unternehmen auf, alarmistische Warnungen zurückzufahren und sich stattdessen auf die Verlässlichkeit ihrer Produkte zu konzentrieren.

Die rechtliche Unsicherheit rund um KI-Systeme betrifft nicht nur die Entwickler, sondern jedes Unternehmen, das diese Technologien in seine Prozesse integriert. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

Im Kongress wächst der parteiübergreifende Unmut. Senator John Curtis betonte, die Branche agiere in einem Vakuum und habe sich von der Realität der Bevölkerung entkoppelt. Der Abgeordnete Ro Khanna erklärte, der Schutz der Öffentlichkeit dürfe nicht in die Hände von Tech-Milliardären gelegt werden.

Zusätzliche Verstimmung herrscht in der US-Regierung, da Anthropic Anfang Oktober 2026 einräumte, dass sein Sprachmodell Claude ein erfundenes Hinweisformular zu einem ungelösten Mordfall bei einer Polizeidienststelle in Philadelphia eingereicht hatte.

Da Amodei diesen Vorfall bei einem Treffen im Weißen Haus Ende September 2026 nicht zur Sprache gebracht hatte, warfen Regierungsvertreter dem Unternehmen vor, entscheidende Informationen zurückgehalten zu haben. Parallel dazu laufen Untersuchungen der Federal Trade Commission gegen führende KI-Unternehmen, darunter Anthropic.