Anthropics KI-Modell Claude Mythos: Revolutionär, aber zu gefährlich für die Öffentlichkeit

Anthropic stellt mit Claude Mythos Preview ein neues KI-Leitmodell vor, das in Tests alle Rekorde bricht – und hält es gleichzeitig unter Verschluss. Der Grund: Die KI kann eigenständig kritische Software-Schwachstellen finden und ausnutzen, ein Risiko, das das Unternehmen als zu groß einstuft.

Ein Quantensprung mit gefährlichen Nebenwirkungen

Die technischen Daten sind atemberaubend. Im standardisierten SWE-bench Verified-Test löste Claude Mythos Preview 93,9 Prozent aller realen Software-Probleme. Das ist ein gewaltiger Sprung gegenüber dem Vorgängermodell Claude Opus 4.6 (80,8 %). Die KI agiert nicht mehr nur als Assistent, sondern als eigenständiges System, das komplexe, mehrstufige Aufgaben in gesamten Software-Umgebungen bewältigen kann – auf dem Niveau erfahrener Senior-Entwickler.

Während neue KI-Modelle wie Claude Mythos Cyberrisiken verschärfen, müssen Unternehmen auch regulatorisch reagieren: Ein kostenloser Leitfaden zeigt, welche Pflichten der neue EU AI Act bereits seit August 2024 für den Einsatz von KI-Systemen vorschreibt. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Doch genau diese Fähigkeiten sind das Problem. Bei internen Sicherheitstests entdeckte die KI tausende bisher unbekannte Schwachstellen (Zero-Day-Exploits) in allen großen Betriebssystemen und Webbrowsern. Sie fand einen 27 Jahre alten Fehler in OpenBSD und eine 16 Jahre alte Lücke im FFmpeg-Codec. Besonders alarmierend: Sie kann mehrere subtile Schwachstellen verketten, um Browser-Sandboxen zu umgehen und Root-Zugriff auf Systeme zu erlangen.

Projekt Glasswing: Ein Konsortium zur Abwehr

Angesichts dieser Bedrohungslage entschied sich Anthropic für einen radikalen Schritt. Statt das Modell öffentlich oder über eine API zugänglich zu machen, wird es exklusiv einem ausgewählten Verteidigungskonsortium zur Verfügung gestellt. Die Initiative trägt den Namen Projekt Glasswing.

Zu den Partnern gehören Tech- und Finanzgiganten wie Amazon, Apple, Cisco, Google, Microsoft, JPMorgan Chase und NVIDIA. Ihr Auftrag: Die KI nutzen, um Schwachstellen in kritischer Infrastruktur zu identifizieren und zu schließen, bevor diese Fähigkeiten anderweitig verfügbar werden. Anthropic stellt dem Projekt 100 Millionen Euro an Nutzungsguthaben zur Verfügung, mit Fokus auf internetkritische Unternehmen und Open-Source-Maintainer.

Regierungen in Alarmbereitschaft

Die Fähigkeiten des Modells haben höchste Regierungskreise auf den Plan gerufen. Bereits im Frühjahr trafen sich US-Finanzminister Scott Bessent und Fed-Chef Jerome Powell mit Bankvorständen, um die systemischen Risiken durch autonome KI-Angriffe auf Finanznetzwerke zu besprechen.

Die rasanten Fortschritte bei autonomen KI-Angriffen fordern besonders kleine und mittelständische Unternehmen heraus, ihre IT-Sicherheit ohne riesige Budgets zu stärken. Dieses kostenlose E-Book liefert praxisnahe Schutzmaßnahmen gegen aktuelle Cyberbedrohungen und neue rechtliche Anforderungen. IT-Sicherheit stärken ohne teure Investitionen: So schützen clevere Unternehmer ihre Firma vor Cyberangriffen

Anthropic bestätigte auf einem globalen Wirtschaftsgipfel laufende Gespräche mit der US-Regierung über die nationalen Sicherheitsimplikationen. Das Unternehmen sucht einen Balanceakt: ausreichend Transparenz für Behörden zu schaffen, während gleichzeitig strikte Sicherheitsvorkehrungen verhindern, dass gefährliche Cyber-Fähigkeiten in die falschen Hände geraten.

Ein Wendepunkt für die KI-Branche

Die restriktive Veröffentlichung von Claude Mythos Preview könnte einen Präzedenzfall für die gesamte KI-Branche schaffen. Sicherheitsforscher warnen, dass die KI die bestehende Informationsasymmetrie im Cyberspace massiv verstärkt: Ein Angreifer braucht nur eine Lücke, ein Verteidiger muss alle schließen.

Die kommenden Monate werden voraussichtlich eine Flut von KI-entdeckten Sicherheitslücken (CVEs) bringen. Für Unternehmen bedeutet das: Sie müssen auf KI-gestütztes Patchen umstellen, um mit den neuen Bedrohungen Schritt halten zu können. Die Ära, in der KI nur ein Tool war, ist vorbei. Sie wird zu einer neuen Kategorie kritischer Infrastruktur, die rigide Überwachung erfordert.

de | boerse | 69142139 |