Anthropic warnt im SEC-Prospekt: KI könnte Forschung selbst beschleunigen

Das KI-Unternehmen Anthropic hat in einem aktualisierten Börsenprospekt vor den Risiken einer sich selbst beschleunigenden Entwicklung künstlicher Intelligenz gewarnt.

In dem am 2. November 2026 bei der US-Börsenaufsicht SEC eingereichten Nachtrag zum Formular S-1 hält das Unternehmen fest, dass künftige Systeme eine kritische Schwelle erreichen könnten, ab der sie den Forschungsfortschritt sprunghaft intensivieren.

Nach Angaben des Unternehmens hat bislang kein aktuelles Modell diese Marke überschritten. Es handelt sich um das erste Dokument dieser Art eines führenden Branchenlabors, das eine Schwelle zur rekursiven Selbstverbesserung explizit als wesentlichen Risikofaktor aufführt.

Kriterien für beschleunigten Fortschritt

In seiner Sicherheitsrichtlinie definiert Anthropic diese Schwelle für einen dramatisch beschleunigten Fortschritt sehr präzise: Sie gilt als erreicht, sobald KI-gestützte Forschung die Rate des aggregierten Fortschritts verdoppelt, die gesamte Forschungsbelegschaft zu wettbewerbsfähigen Kosten ersetzt oder neue Modelle mindestens doppelt so schnell voranbringt wie ohne Maschineneinsatz.

Als mögliches Szenario nennt der Börsenprospekt eine Entwicklung, bei der das Äquivalent von zwei Jahren KI-Fortschritt der Periode 2018 bis 2024 in einem einzigen Jahr komprimiert wird. Ein solches Ereignis würde die unternehmenseigene Schutzstufe ASL-4 auslösen.

Zugleich räumt Anthropic ein, dass signifikante Beschleunigungen bislang erst im Nachhinein erkannt werden konnten, da die herangezogenen Messgrößen nachlaufende Indikatoren darstellen. In einem früheren Risikobericht aus dem August 2026 hieß es bereits, die Schwelle könne innerhalb eines Jahres erreicht werden.

Während die technologische Entwicklung immer rasanter voranschreitet, müssen Unternehmen gleichzeitig komplexe regulatorische Vorgaben beachten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Anpassung der Sicherheitsrichtlinien und Kontrollmechanismen

Anthropic erwartet nach eigenen Angaben nicht, das Modell Claude künftig ohne menschliche Aufsicht vollautonom an neuen Frontier-Modellen arbeiten zu lassen. Das Unternehmen erwägt stattdessen Anpassungen der Richtlinie für verantwortungsvolles Skalieren, um verbindliche Kontrollen zu verankern.

Der aktuell Nachtrag sieht unter anderem vor, eine menschliche Prüfung und Freigabe für bestimmte automatisierte Entscheidungen in Forschung und Entwicklung vorzuschreiben. Dieser Passus fehlte noch in der ursprünglichen Einreichung vom 26. Oktober 2026.

Als bestehende Vorsichtsmaßnahmen verweist das Unternehmen auf verzögerte Produktveröffentlichungen sowie Zugriffsbeschränkungen, wie sie etwa beim Modell Mythos über das Projekt Glasswing umgesetzt werden.

Gegenüber Investoren stellte das Management klar, dass solche Sicherheitsvorkehrungen die Betriebskosten erhöhen und zu Wettbewerbsnachteilen führen könnten. Sollten die Modellfähigkeiten die Sicherheits-, Alignment- und Schutzmaßnahmen überholen, könnten laut dem Prospekt katastrophale Risiken für die Menschheit nicht mehr abgewendet werden.

Die rasanten Fortschritte bei KI-Systemen stellen viele Unternehmen vor neue rechtliche Herausforderungen und Compliance-Fragen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu stehen. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos anfordern

Wachsender Automatisierungsgrad in der internen Entwicklung

Trotz der vorsichtigen Haltung demonstrieren interne Kennzahlen den bereits hohen Grad an technischer Unterstützung. Im September 2026 stammten über 90 Prozent der Beiträge zur internen Codebasis von Claude.

Der durchschnittliche tägliche Code-Ausstoß pro Ingenieur lag im dritten Quartal 2026 mehr als 45-mal so hoch wie im Jahr 2024, wobei sich diese Zahl rein auf das Codevolumen und nicht auf die Produktivität bezieht.

Bei offenen technischen Problemen erreichte Claude im September 2026 eine Erfolgsrate von rund 90 Prozent, was einem Anstieg um fast 50 Prozentpunkte innerhalb von neun Monaten entspricht.

Eine Studie vom September 2026 ergab, dass Claude bei etwa einem Viertel der Forschungs- und Entwicklungsarbeit nach Zeitaufwand die meisten Aufgaben selbstständig unter Aufsicht erledigen kann.

Laut dem internen Automatisierungsindex liefen im August 2026 über 26 Prozent der KI-Forschungsaufgaben auf Automatisierungsstufe 4, bei der die KI ausführt und der Mensch überwacht. Mehr als 90 Prozent erreichten Stufe 3 oder höher, während keine Aufgabe die vollautonome Stufe 5 erreichte. In diesem Umfeld liefen über 30.000 gleichzeitige Experimente und Aufgaben.

Zudem entwickelte ein siebenköpfiges Team mit Claude das Versionskontrollsystem Scion, das die Software Git innerhalb von fünf Monaten in der Hauptcodebasis ablöste. Der Anteil neuer technischer Nachwuchskräfte im Unternehmen sank parallel dazu von 27 Prozent zu Beginn des Jahres 2025 auf 9 Prozent.