Claude Fable 5: Selbstprüfung erkennt 78 Prozent schädlicher Chats

Das KI-Unternehmen Anthropic hat seinem Sprachmodell Claude eine Methode zur verdeckten Selbstprüfung antrainiert. Nach jeder generierten Antwort analysiert das Modell den bisherigen Verlauf der Konversation eigenständig auf potenziellen Missbrauch.

Verdächtige Interaktionen werden dabei für eine nachgelagerte menschliche Überprüfung markiert. Ein sofortiges Blockieren schädlicher Anfragen in Echtzeit findet über diesen Mechanismus hingegen nicht statt.

Die Methode wurde über den Safeguards-Blog des Unternehmens sowie über die Plattform X vorgestellt; der zugrundeliegende technische Bericht ist auf den 16. Oktober 2026 datiert.

Funktionsweise und Leistungsdaten der Selbstevaluation

Das System nutzt den Umstand, dass das Modell den Inhalt des Gesprächs für die Antwort bereits verarbeitet hat. Im Gegensatz zu externen, klassenbasierten Klassifikatoren setzt das Verfahren auf das eigene Urteilsvermögen von Claude. Dadurch steigt die Genauigkeit parallel zu den allgemeinen Fähigkeiten des Modells. Das Training für diese Aufgabe erfolgte ausschließlich mit synthetischen Daten.

In einer Evaluation mit dem Modell Claude Fable 5 erkannte das System 78 Prozent der Konversationen, die von einem leistungsstärkeren Prompt-Klassifikator auf Basis von Claude Mythos Preview als potenziell schädlich eingestuft worden waren. Bei Fällen mit hoher Prüfpriorität lag die Erkennungsrate bei 94 Prozent, während die Falsch-Positiv-Rate 1 Prozent betrug.

Rund ein Drittel der erfassten Fälle fiel in keine der zuvor definierten Risikokategorien; darunter befanden sich Aktivitäten wie Prompt-Injection, unautorisierte Agentenaktionen und die unerlaubte Modelldestillation. Auch ohne spezifisches Training auf Betrugsversuche und Cyberangriffe identifizierte das Modell am 29. Oktober 2026 noch 90 Prozent dieser Bedrohungen.

Angesichts der zunehmenden Automatisierung von Cyberangriffen und Betrugsmaschen durch KI-Systeme müssen Unternehmen ihre Schutzstrategien grundlegend überdenken. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Gratis-E-Book: Cyber-Bedrohungen abwenden

Ressourcenaufwand und praktische Einsätze

Der zusätzliche Rechenaufwand für die interne Überprüfung beläuft sich auf rund 10 zusätzliche Tokens pro Bewertung, was einem Zuwachs der Inferenzrechenleistung von weniger als 2 Prozent entspricht. Anthropic gibt diese Zusatzkosten nicht an Kunden weiter und erhebt keine gesonderten Gebühren.

In internen Untersuchungen zur Cybersicherheit zeigte sich die Schutzwirkung des Ansatzes im Vergleich: Bei 24 Tests lag die Erfolgsrate von Angriffen ohne Schutzmaßnahmen bei 79 Prozent (19 Fälle).

Wurde die Selbstbewertung als Filter eingesetzt, sank der Angriffserfolg auf 54 Prozent (13 Fälle), während ein separater Prompt-Klassifikator den Wert auf 25 Prozent (6 Fälle) reduzierte.

Die Überwachung führte in den Vormonaten bereits zu regulatorischen und administrativen Maßnahmen. Im August 2026 registrierte das System über 100.000 Markierungen bezüglich mutmaßlichen Kindesmissbrauchs auf einem einzelnen API-Kundenkonto, was zu einer Meldung an die Organisation NCMEC führte, wobei es sich um die reine Markierungszahl und nicht um bestätigte Einzelfälle handelte.

Im September 2026 deckte Anthropic zudem eine über das Werkzeug Claude Code organisierte, automatisierte Romance-Scam-Gruppe auf und sperrte die zugehörigen Konten.

Wer sich mit der Absicherung digitaler Prozesse befasst, sollte auch die gesetzlichen Anforderungen der EU-KI-Verordnung fest im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen für Unternehmen. EU AI Act in 5 Schritten verstehen

Technische Grenzen des Verfahrens

Trotz der Erkennungsleistung unterliegt das System klaren Grenzen. Da die Prüfung ausschließlich offline und nachgelagert für menschliche Prüfteams erfolgt, können potenziell schädliche Ausgaben den Nutzer zunächst uneingeschränkt erreichen.

Zudem greift das Verfahren nicht bei Unternehmenskunden, die Verträge ohne Datenspeicherung nutzen oder unter Zero-Data-Retention-Bedingungen arbeiten, da in diesen Fällen keine Konversationsdaten für eine spätere Prüfung vorgehalten werden dürfen.