Anthropic: Sechs METR-Forscher prüfen Spitzenmodelle direkt im Unternehmen

Am 15. Oktober 2026 hat das KI-Unternehmen Anthropic einen Prozess zur unabhängigen Sicherheitsprüfung seiner Spitzenmodelle durch externe Dritte gestartet. Im Rahmen dieser Initiative werden sechs Mitarbeiter der Evaluierungsorganisation METR direkt in die internen Strukturen von Anthropic eingebunden. Die Prüfer sollen Sicherheitsbewertungen aus nächster Nähe vornehmen, um potenzielle Risiken fortschrittlicher Systeme frühzeitig zu analysieren.

Weitreichender Zugang und redaktionelle Unabhängigkeit

Die sechs METR-Forscher erhalten nach Unternehmensangaben einen Arbeitszugang, der etwa auf Augenhöhe mit den internen Risikobewertungsteams von Anthropic liegt. Dazu zählen unternehmenseigene Laptops, Büroräume sowie Zugriffsrechte auf interne Entwicklungswerkzeuge.

Die Namen der entsandten Fachleute wurden nicht veröffentlicht. Um Informationsabflüsse zu verhindern, werden die sechs Prüfer vom restlichen METR-Team organisatorisch abgeschottet, während Anthropic-Mitarbeiter angehalten sind, Informationen mit ihnen wie mit regulären Kollegen zu teilen.

METR behält die Befugnis, die Ergebnisse der Untersuchungen eigenständig zu publizieren. Anthropic verzichtete auf ein generelles Vetorecht gegen Veröffentlichungen, behält sich jedoch Schwärzungen für vorab definierte Bereiche vor. Dies betrifft Kundendaten, anwaltlich geschützte Inhalte sowie Details zur Modellarchitektur. Die Entscheidung, ob Inhalte unter diese Ausnahmen fallen, liegt bei Anthropic.

Politischer Rahmen und offene Fragen

Die Maßnahme folgt einer Zusage von Anthropic-Chef Dario Amodei aus dem Vormonat, die auf ein vom Weißen Haus vermitteltes Abkommen zurückgeht. Anthropic begründete das Vorgehen damit, dass man Evaluatoren freiwillig einbette und die Erwartung hege, dass andere führende KI-Unternehmen demselben Beispiel folgen sollten. OpenAI-Chef Sam Altman kündigte zwar vergleichbare Schritte an, setzte diese bislang jedoch nicht um.

Wer sich mit der Absicherung fortschrittlicher Systeme befasst, muss auch die rechtlichen Rahmenbedingungen kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen, die Unternehmen nun beachten müssen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Als Hintergrund der verschärften Kontrollen gelten fast wöchentlich auftretende Vorfälle mit außer Kontrolle geratenen KI-Agenten seit Ende August 2026. Bereits am 15. September 2026 hatte ein Briefing des Wissenschaftsausschusses im US-Repräsentantenhaus unter Beteiligung von Anthropic, METR, Hugging Face und OpenAI stattgefunden.

Bis zum 15. Dezember 2026 will Anthropic einen konkreten Vorschlag vorlegen, wie Regierungen eingebettete Evaluatoren bezüglich Finanzierung, Zugang und Unabhängigkeit unterstützen können.

Branchenbeobachter vergleichen das Modell mit der Bankenaufsicht, bei der ständige Prüfer direkt in Finanzinstituten arbeiten. Offen bleibt bislang, welche konkreten Modelle geprüft werden, wann die erste Bewertung startet, wie lange die Einbettung befristet ist und welche Kosten dafür anfallen.

Während große Tech-Konzerne eigene Prüfstrukturen aufbauen, stehen viele Unternehmen vor der Frage, welche ihrer Systeme konkret als Hochrisiko eingestuft werden. Dieser kostenlose Report klärt auf, was Verantwortliche jetzt für eine rechtssichere Dokumentation tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

Fachliche Debatte über Prüfstandards

Das Konzept stößt in der Fachwelt auch auf Vorbehalte. Irene Solaiman, Leiterin der Regulierungspolitik bei Hugging Face, betonte auf der Konferenz TechCrunch Disrupt, dass eingebettete Prüfer die Herausforderungen der KI-Aufsicht nicht alleine lösen könnten.

Ohne Zugriff auf Modellgewichte seien Ergebnisse schwer reproduzierbar, Benchmarks ließen sich nur eingeschränkt vergleichen, und es fehle eine verbindliche Definition, wer als qualifizierter Evaluator gilt.

Zudem stehen frühere Prüfkonstellationen in der Kritik. Anthropic hatte zuvor die Accenture-Einheit Faculty als Evaluator benannt, verbunden mit Zusagen von mindestens 1 Milliarde US-Dollar über fünf Jahre.

Forscher äußerten wegen bestehender Geschäftsbeziehungen Zweifel an der Unabhängigkeit und bemängelten zu kurze Testfenster – etwa drei Tage bei Apollo Research oder vier Werktage bei SecureBio, wohingegen die Branchenleitlinie AEF-1 mindestens 20 Tage empfiehlt.

Bei einer von OpenAI finanzierten Evaluierung verbrauchte METR 400.000 US-Dollar an API-Tokens. Neben der Zusammenarbeit mit METR führt Anthropic derzeit frühe Gespräche mit Hugging Face über künftige Prüfprozesse.