KI-Sicherheit: Illinois mit 110:0-Votum für Pflicht-Audits

Das Repräsentantenhaus verabschiedete am Mittwoch den „Artificial Intelligence Safety Measures Act“ (SB 315) mit einem bemerkenswerten 110:0-Votum. Damit ist Illinois der erste US-Bundesstaat, der Entwicklern von besonders leistungsfähigen KI-Modellen unabhängige Sicherheitsaudits vorschreibt.

Das Gesetz zielt auf große KI-Entwickler mit einem Jahresumsatz von über 500 Millionen Euro. Sie müssen künftig jährliche Prüfungen durch externe Drittanbieter vorweisen lassen. Die Audits sollen Sicherheitsstandards überprüfen und das Risiko katastrophaler Folgen durch mächtige KI-Modelle bewerten.

Während Illinois neue Maßstäbe für KI-Prüfungen setzt, müssen sich auch Unternehmen hierzulande auf die strengen Vorgaben der europäischen Gesetzgebung vorbereiten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Act. Leitfaden zur EU-KI-Verordnung jetzt kostenlos sichern

Was das Gesetz konkret fordert

Die Kernbestimmungen von SB 315 sind weitreichend:

• Sicherheitspläne: Entwickler müssen Pläne erstellen und jährlich aktualisieren, die katastrophale Risiken minimieren sollen.
• Meldepflicht: Unternehmen sind verpflichtet, kritische Sicherheitsvorfälle zu melden und regelmäßige Transparenzberichte vorzulegen.
• Whistleblower-Schutz: Das Gesetz etabliert formelle Schutzmechanismen für Mitarbeiter, die Sicherheitsbedenken oder Verstöße melden.
• Durchsetzung: Die Illinois Emergency Management Agency (IEMA) und der Generalstaatsanwalt überwachen die Umsetzung. Bei Verstößen drohen zivilrechtliche Strafen.

Das Gesetz geht nun zu Gouverneur J.B. Pritzker, der 30 Tage Zeit für seine Unterschrift hat. Pritzker hat bereits angekündigt, das Gesetz zu unterzeichnen. Ursprünglich war ein Inkrafttreten für Januar 2027 geplant, aktuelle Änderungen verschieben bestimmte Anforderungen jedoch auf 2028.

Überraschende Unterstützung aus der Branche

Die Industrie reagiert ungewöhnlich gespalten. Sowohl OpenAI als auch Anthropic unterstützen den Regulierungsrahmen. Der Gesetzesinitiator, Abgeordneter Daniel Didech, bezeichnete KI als eine der bedeutendsten Innovationen unserer Zeit und betonte die Notwendigkeit, die Öffentlichkeit vor potenziellen Großrisiken zu schützen.

Doch der Widerstand kommt von anderer Seite: Handelsverbände und kleinere Entwickler warnen vor den Kosten der Pflichtaudits. Sie befürchten, dass die Auflagen Start-ups unverhältnismäßig belasten könnten. Zudem wird weiterhin darüber gestritten, was genau als „Frontier“-Modell gilt und wer als qualifizierter Prüfer zugelassen werden soll.

Vorbild für nationale Regulierung?

Beobachter sehen in dem Gesetz einen möglichen Blaupausen-Test für eine bundesweite KI-Regulierung in den USA. Das Gesetz orientiert sich an Vorschlägen aus Kalifornien und New York und will über die bisherige Selbstregulierung der Industrie hinausgehen.

Der Vorstoß aus Illinois fällt in eine Zeit wachsender internationaler Besorgnis über KI-Sicherheit. Erst Ende Mai schlossen das britische KI-Sicherheitsinstitut und sein australisches Pendant eine Partnerschaft zur gemeinsamen Testung. In Indien testen Behörden unterdessen kritische Infrastruktur-Software gegen die neueste KI-Generation.

Die Botschaft aus Illinois ist klar: Die Sicherheitsversprechen der großen Tech-Konzerne sollen künftig nicht mehr nur auf Vertrauen basieren, sondern von unabhängiger Hand überprüft werden.

de | wissenschaft | 69430040 |