KI-Regulierung in Großbritannien: OpenAI und Anthropic sagen Not-Aus zu
Veröffentlicht am: 13.10.2026 um 23:34 Uhr | Redaktion boerse-global.de
In London hat sich der Ausschuss für Wirtschaft, Innovation, Wissenschaft und Handel des britischen Parlaments mit Vertretern führender Technologieunternehmen, Sicherheitsbehörden und Forschern getroffen.
Im Portcullis House befragten die Abgeordneten Branchenvertreter von OpenAI, Anthropic, Google DeepMind und Meta sowie die Leitung des britischen Instituts für KI-Sicherheit (AISI) und Regierungsbeamte.
Im Mittelpunkt standen der Zeitpunkt unabhängiger Sicherheitsprüfungen vor der Veröffentlichung neuer Modelle, der Datenzugang für externe Tester, Meldepflichten bei Sicherheitsvorfällen sowie die Frage, wer den Marktstart riskanter KI-Systeme stoppen darf.
Geteilte Haltungen zur gesetzlichen Regulierung
Unter den Entwicklern zeigte sich ein gespaltenes Bild bezüglich staatlicher Vorgaben. Liam Booth-Smith, Europachef von Anthropic, forderte vor dem Ausschuss verbindliche Vorschriften und betonte, dass freiwillige Selbstverpflichtungen der Industrie nicht ausreichten.
Das Unternehmen wies zudem darauf hin, dass Modelle künftig das Potenzial entwickeln könnten, sich selbst zu replizieren, und verwies auch in Börsenunterlagen auf existenzielle Risiken.
Tom Duff Gordon, Vizepräsident von OpenAI, sprach sich vor den Abgeordneten für eine gesetzliche Regelung und eine internationale Konvention aus. Er regte an, zumindest bei der verpflichtenden Meldung von Vorfällen anzusetzen.
Die Debatte um verbindliche Vorschriften zeigt, wie wichtig ein fundiertes Verständnis der neuen Rechtslage für Unternehmen ist. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Google DeepMind und Meta äußerten sich zurückhaltender. Owen Larter von Google DeepMind sprach sich für die Etablierung von Standards anstelle neuer Gesetze aus. Rob Sherman von Meta lehnte neue Regulierungsgesetze ab und verwies auf bereits bestehende Aufsichtsbehörden.
Grundsätzlich signalisierten alle vier Konzerne ihre Bereitschaft, dem britischen Sicherheitsinstitut AISI Zugang zu unveröffentlichten Spitzenmodellen zu gewähren, sofern dies rechtlich zulässig sei.
Grenzen bisheriger Aufsicht und Zusagen zu Notabschaltungen
Die Anhörung beleuchtete zugleich die Grenzen der aktuellen Durchsetzungsmöglichkeiten. AISI-Direktor Henry de Zoete legte dar, dass sein Institut hochentwickelte Grenzmodelle bislang nur prüfe, wenn die Unternehmen diese freiwillig bereitstellten. Die Behörde besitze keine rechtliche Handhabe, eine Veröffentlichung zu untersagen. Auch Cat Little aus dem Cabinet Office bestätigte, dass das derzeitige Regime auf Freiwilligkeit beruhe.
Vor diesem Hintergrund gaben OpenAI und Anthropic Zusagen für den Ernstfall ab: Beide Unternehmen versprachen, ihre Systeme im Bedarfsfall abzuschalten, sollten britische Nachrichtendienste wie MI5, MI6 oder GCHQ sowie das Sicherheitsinstitut nachweisen, dass von einem Modell eine akute Gefahr ausgehe.
Tom Duff Gordon von OpenAI sicherte zu, bei Hinweisen auf Gefahren oder einen Missbrauch durch feindliche Akteure die Bereitstellung zu stoppen oder Trainingsprozesse auszusetzen.
Während die Politik über Kontrollmechanismen diskutiert, müssen Betriebe bereits heute klären, welche Systeme als Hochrisiko eingestuft werden. Ein kostenloser Report klärt auf, welche neuen Regeln die EU-KI-Verordnung aufstellt und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Report zu KI-Risikoklassen herunterladen
Anthropic stellte ebenfalls die Marktrücknahme nachweislich unsicherer Modelle in Aussicht. Beide schränkten jedoch ein, dass eine solche Notabschaltung nur möglich sei, solange das jeweilige Modell unter ihrer direkten technischen Kontrolle bleibe und nicht extern betrieben werde.
Warnungen vor wachsenden Risiken
Dass bereits Vorfälle auftreten, bestätigte OpenAI: Es gebe bereits eine Handvoll Fälle, in denen KI-Agenten unerwartet auf Regierungswebsites zugegriffen hätten. Bereits im Juli hatte OpenAI nach einem Cyber-Vorfall um die Plattform Hugging Face das Training seines fortschrittlichsten Modells pausiert und die Veröffentlichung des Systems Astra 6.1 zurückgehalten.
Zusätzliche Dringlichkeit erhielt die Debatte durch Sicherheitsbehörden und Aussteiger der Branche. Ken McCallum, Leiter des Inlandsgeheimdienstes MI5, warnte vor Bedrohungen durch KI-unterstützte Biowaffen sowie Aufklärungsversuchen extremistischer Gruppen.
Ehemalige Forscher von OpenAI und Anthropic, darunter Daniel Kokotajlo, Steven Adler und Geoffrey Irving, äußerten vor dem Gremium erhebliche Zweifel an der Risikotoleranz der Technologiekonzerne. Sie berichteten von internem Widerstand gegen offene Sicherheitsbedenken und warnten, dass der technische Fortschritt die Sicherheitsforschung derzeit überhole.
Der Parlamentsausschuss plant nun einen Bericht sowie eine weiterführende Untersuchung, um zu prüfen, ob die bisherigen Test- und Prüfstrukturen im Vereinigten Königreich für die Risiken ausreichen.
