Mythos-Modell: Anthropic entdeckt 181 Zero-Day-Lücken und stoppt Release

Der KI-Entwickler Anthropic hat sich dem internationalen Aufruf für eine Verlangsamung der Entwicklung sogenannter Frontier-KI angeschlossen. Grund ist das eigene Modell Mythos, das nach internen Tests Sicherheitslücken aufspürt wie kein System zuvor.

Rom-Deklaration: Weltweit gefordertes KI-Bremspedal

Bei der Global Nobel Laureates Assembly im Juli 2026 verabschiedeten die Teilnehmer die „Rom-Deklaration: Die Menschheit an der Schwelle“. Das Dokument formuliert sechs Kernprinzipien für die Zukunft der Technologie. Im Zentrum steht der Aufruf zu einer koordinierten Verlangsamung der Frontier-KI-Entwicklung. Zudem fordern die Unterzeichner die überprüfbare Abschaffung KI-gestützter nuklearer Wettrüsten.

30 Nobelpreisträger und 20 führende KI-Experten von Organisationen wie Anthropic, OpenAI und Google DeepMind waren an der Versammlung beteiligt. Die Deklaration betont die Notwendigkeit, die menschliche Kontrolle über Atomwaffen zu bewahren. Vollautomatische Startvorrichtungen dürfe es nicht geben. Die Prinzipien plädieren für einen verantwortungsvollen Entwicklungsrahmen, der Sicherheit über das derzeitige Innovationstempo stellt.

Mythos-Modell: 181 Sicherheitslücken entdeckt

Der Vorstoß für mehr Vorsicht folgt einer Entscheidung von Anthropic vom 20. Juli 2026. Das Unternehmen hält sein Mythos-KI-Modell zurück und gibt es nicht frei. Laut internen Erkenntnissen identifizierte die KI autonom sogenannte Zero-Day-Sicherheitslücken in allen gängigen Betriebssystemen und Webbrowsern. Im Vergleichstest gelangen Mythos 181 erfolgreiche Identifikationen von Schwachstellen. Das Vorgängermodell Opus 4.6 schaffte gerade einmal zwei.

Die rasante Entwicklung von Systemen wie Mythos verdeutlicht, wie schnell sich die technologische Bedrohungslage für Unternehmen verändert. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Cyberrisiken Unternehmer im Zeitalter der KI jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken jetzt kostenlos prüfen

Forschung der University of Washington untermauert diese Bedenken. Agentische Browser könnten Standard-Sicherheitsprotokolle umgehen, etwa die Same-Origin-Policy. Branchendaten zeigen: Weniger als ein Prozent der von solchen Modellen entdeckten hochriskanten Sicherheitslücken werden derzeit behoben.

Während das vollständige Modell unter Verschluss bleibt, hat Anthropic die Plattform Singularityhub gestartet. Sie gewährt ausgewählten Partnern wie AWS, Apple, Microsoft und Nvidia begrenzten Zugang. OpenAI arbeitet eigenen Angaben zufolge an einem Modell mit ähnlichen Fähigkeiten.

Führungswechsel bei US-Sicherheitsbehörde

Der Branchenaufruf für eine Verlangsamung fällt mit einem Führungswechsel am Center for AI Standards and Innovation (CAISI) zusammen. Die Behörde ist die wichtigste US-Bundesbehörde für KI-Sicherheit. Am 20. Juli 2026 trat Dr. Chris Fall nach nur drei Monaten als Direktor von CAISI zurück.

Dr. Arvind Raman, Direktor des National Institute of Standards and Technology (NIST), übernimmt kommissarisch. CAISI, hervorgegangen aus dem US AI Safety Institute, testet unveröffentlichte Modelle großer Entwickler wie Anthropic, Google DeepMind, OpenAI und xAI. Die Behörde geriet zuletzt in die Kritik, nachdem sie im Mai Modelltest-Vereinbarungen von ihrer Website entfernt und kurzzeitig Exportkontrollen für Anthropic-Dienste verhängt und dann wieder aufgehoben hatte.

Neben den technischen Risiken rücken auch die regulatorischen Anforderungen der EU-KI-Verordnung immer stärker in den Fokus von IT- und Rechtsabteilungen. Ein kostenloser Download verschafft Ihnen jetzt den notwendigen Überblick über Fristen, Pflichten und Risikoklassen des EU AI Act. EU AI Act Umsetzungsleitfaden kostenlos herunterladen

Wettlauf mit China: Offene Modelle heizen Debatte an

Die Debatte über eine Verlangsamung wird durch leistungsstarke Open-Weight-Modelle internationaler Wettbewerber erschwert. Am 16. Juli 2026 veröffentlichte die chinesische Firma Moonshot AI Kimi K3. Das Modell mit 2,8 Billionen Parametern erreicht in Programmier- und Bildverarbeitungstests die Leistung der besten geschlossenen Modelle.

Diese Veröffentlichung hat die Diskussionen innerhalb der US-Regierung über Beschränkungen für chinesische KI-Technologie neu entfacht. Während einige Branchenvertreter die Verbreitung hochwertiger Open-Weight-Modelle als Risiko für die Wettbewerbsfähigkeit gewinnorientierter Firmen kritisieren, argumentieren andere: Die technische Risikominderung – vor allem bei Cybersicherheit und Biowaffen – sollte das Hauptziel des internationalen KI-Dialogs sein.

Anfang des Jahres berichtete Anthropic, dass chinesische Labore an groß angelegten Extraktionsangriffen beteiligt gewesen seien. Als Reaktion auf die sich verändernde Bedrohungslage forderte Präsident Xi Jinping jüngst auf einer Konferenz in Shanghai einen globalen KI-Governance-Rahmen und verbesserte Risikoüberwachungssysteme.

de | wissenschaft | 69825228 |