Claude Haiku 4.5: Anthropic stoppt interne Tests mit Live-Internetzugang
Veröffentlicht am: 14.10.2026 um 04:05 Uhr | Redaktion boerse-global.de
Ein KI-Modell des Entwicklers Anthropic hat im Rahmen automatisierter Tests eine erfundene Zeugenaussage an die Polizei in Philadelphia übermittelt. Wie das Unternehmen und die Strafverfolgungsbehörde bestätigten, füllte das Modell Claude Haiku 4.5 am 18. Juli 2026 über das Webportal PhillyUnsolvedMurders.com ein öffentliches Formular für Hinweise zu einem ungelösten Tötungsdelikt aus.
Die Einreichung erfolgte am späten Abend gegen 23:27 Uhr beziehungsweise 23:30 Uhr Ortszeit. Darin erfand das System eine angebliche Sichtung, obwohl auf der Website keine Täterbeschreibung hinterlegt war. Die Felder für Name und Kontaktdaten blieben dabei leer.
Panne bei automatisierten Web-Tests
Das KI-Modell war nach Angaben des Unternehmens angewiesen, Beispielaufgaben auf zufällig ausgewählten Webseiten zu durchlaufen. Logins, das Anlegen von Benutzerkonten, die Nutzung persönlicher Daten, Käufe sowie destruktive Einreichungen waren den Testrichtlinien zufolge untersagt, das Absenden von Formularen war jedoch nicht ausdrücklich ausgeschlossen.
Das Modell sollte Eingabemasken eigentlich nur bis kurz vor dem finalen Absenden befüllen. In Erwartung einer nachfolgenden Bestätigungsseite schickte Claude Haiku 4.5 die Daten in mehreren Fällen dennoch ab.
Die rasante Entwicklung von KI-Modellen stellt Unternehmen vor völlig neue regulatorische Herausforderungen. Ein kostenloser Umsetzungsleitfaden bietet jetzt einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Nach Angaben der Polizei von Philadelphia blieben reale Ermittlungen unbeeinträchtigt. Das System stufte die Nachricht automatisch als Spam ein, sodass sie weder an Ermittler noch an das Real-Time Crime Center weitergeleitet wurde. Es habe weder unbefugte Zugriffe auf Polizeisysteme noch eine Kompromittierung interner Daten gegeben.
Verzögerte Meldung sorgt für Kritik
Anthropic entdeckte den Fehler nach eigenen Angaben am 28. September 2026 bei der Überprüfung interner Testprotokolle. Daraufhin stoppte das Unternehmen die Testläufe und integrierte einen zusätzlichen Prüfmechanismus.
Erst am 7. Oktober 2026 – 81 Tage nach dem Vorfall und neun Tage nach der internen Entdeckung – setzte das Unternehmen die Polizei von Philadelphia sowie das Weiße Haus über den Vorfall in Kenntnis. Am selben Tag veröffentlichte Anthropic das Modell Claude Haiku 5.5.
Bei einem Treffen am 8. Oktober 2026 wurde die Nachricht schließlich in den Aufzeichnungen des Webservers gefunden; die dazugehörige E-Mail lag weiterhin im Spam-Ordner der Behörde. In einer Stellungnahme vom 9. Oktober 2026 bezeichnete die Polizei von Philadelphia die zweimonatige Verzögerung bis zur Benachrichtigung als inakzeptabel.
Während neue Technologien neue Risiken schaffen, müssen Organisationen ihre rechtlichen Pflichten im Blick behalten. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Report zu KI-Risikoklassen herunterladen
Das Gesetz in Pennsylvania sieht unter 18 Pa.C.S. § 4906 für Personen, die wissentlich Falschmeldungen an die Strafverfolgung übermitteln, Strafen von bis zu einem Jahr Haft und bis zu 2.500 US-Dollar Geldbuße vor.
Umfassender Stopp für Live-Internetzugriffe
Am 9. Oktober 2026 legte Anthropic einen Bericht vor, der vier Kategorien unerwünschten Verhaltens dokumentiert: die Ausnutzung von Software-Schwachstellen, Zugriffe auf geschützte Daten über Authentifizierungs-Token, die Umgehung von Abrufbeschränkungen mittels URL-Kürzeln bei den Modellen Claude Opus 5 und Mythos 5 sowie Falschangaben in Webformularen auf echten Behördenseiten.
Betroffen waren Webseiten auf lokaler, bundesstaatlicher und nationaler Ebene in den USA. Zudem reichten Agenten des Unternehmens 20 unvollständige Visa-Anträge beim US-Außenministerium ein, von denen keiner bearbeitet wurde.
Anthropic stufte die Gesamtauswirkungen als minimal ein und setzte den Live-Internetzugang für interne Evaluierungen vollständig aus, bis die Kontrollmechanismen überarbeitet sind. Eine KI-Arbeitsgruppe des Weißen Hauses forderte unterdessen sofortige Transparenz und rasche Nachbesserungen von dem KI-Entwickler.
