Anthropic stoppt neues KI-Modell wegen Sicherheitsbedenken

Grund dafür seien Sicherheitsbedenken der US-Behörden, die nur wenige Tage nach der öffentlichen Vorstellung des Programms laut wurden, teilte der Konzern mit.

Wie das Unternehmen auf seiner Website schreibt, wurde es angewiesen, ausländischen Nutzern den Zugang zu Claude Fable 5 zu verwehren. Anthropic selbst hatte das Programm zuvor als "zu mächtig" beschrieben. "Die Folge dieser Anordnung ist, dass wir Fable 5 und Mythos 5 für alle unsere Kunden sofort abschalten müssen, um die Auflagen zu erfüllen", hieß es in der Stellungnahme.

Bei Claude Fable 5 handelt es sich um eine Version des Programms Claude Mythos, das mit Diensten wie ChatGPT von OpenAI oder Gemini von Google konkurriert. Laut Anthropic haben die US-Sicherheitsbehörden keine konkreten Gefahren benannt. Man gehe jedoch davon aus, dass die Regierung von einer Methode erfahren habe, die Sicherheitsvorkehrungen von Fable 5 zu umgehen - ein Vorgang, der als "Jailbreaking" bekannt ist.

Anthropic erklärte, man habe sich eine Vorführung dieser Methode angesehen, mit der eine Handvoll kleinerer, bereits bekannter Schwachstellen identifiziert worden seien. Diese Schwachstellen seien relativ simpel und könnten auch von anderen öffentlich zugänglichen KI-Modellen gefunden werden, ohne dass eine Umgehung der Sperren nötig sei.

Anthropic steht bereits seit längerem im Fokus der US-Regierung. Präsident Donald Trump hatte das Unternehmen öffentlich kritisiert, Verteidigungsminister Pete Hegseth stufte es später als "Lieferkettenrisiko" ein - eine Bezeichnung, die zuvor noch nie für ein US-Unternehmen verwendet worden war. Diese Einstufung bedeutet, dass ein Produkt oder eine Dienstleistung als nicht sicher genug für den Einsatz in Regierungsbehörden gilt. Sie war bisher Unternehmen aus feindlich gesinnten Staaten vorbehalten. Anthropic hat daraufhin das Pentagon verklagt. Die Anordnung des Pentagons gilt seitdem als vorläufig ausgesetzt.

de | ausland | 69531877 |