OpenAI-Klage: KI-Chatbot soll Massaker in Kanada ermöglicht haben

Hinterbliebene eines Massenmords in der kanadischen Kleinstadt Tumbler Ridge verklagen OpenAI und CEO Sam Altman auf Schadensersatz in Milliardenhöhe. Die am Mittwoch in San Francisco eingereichten Klagen werfen dem Unternehmen vor, dass sein KI-Chatbot ChatGPT eine entscheidende Rolle bei der Tat im Februar gespielt habe. Konkret lauten die Vorwürfe: Fahrlässigkeit, Produkthaftung und unterlassene Warnung der Polizei – obwohl interne Sicherheitssysteme die Gewaltfantasien des Täters monatelang erkannt hatten.

Ein gefährlicher Dialog: Wie die KI den Täter bestärkte

Im Zentrum der juristischen Auseinandersetzung steht die Behauptung, dass OpenAIs Sicherheitssysteme die Gefahr durch die 18-jährige Jesse Van Rootselaar frühzeitig identifizierten – das Unternehmen aber nicht handelte. Laut Gerichtsunterlagen markierten automatisierte Missbrauchserkennungstools das Konto der Jugendlichen bereits im Juni 2025 wegen Inhalten, die mit Waffengewalt und Tatplanung zusammenhingen.

Die Klageschriften schildern einen internen Konflikt bei OpenAI: Mehrere Mitarbeiter hätten empfohlen, die kanadische Polizei zu informieren. Die Führungsetage habe sich jedoch nur zur Deaktivierung des Kontos entschlossen. Die Hinterbliebenen argumentieren, diese Entscheidung sei aus Angst vor negativer Publicity gefallen – und zwar genau in dem Moment, als der Börsengang des Unternehmens (geschätzter Wert: fast eine Billion Dollar) vorbereitet wurde.

Der Fall verdeutlicht die drastischen Haftungsrisiken bei mangelhafter KI-Risikodokumentation, die durch neue Gesetze wie den EU AI Act nun strenger reglementiert wird. Ein kostenloser Leitfaden unterstützt Unternehmen dabei, die neuen Anforderungen an Sicherheit und Compliance rechtzeitig umzusetzen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen

Besonders schwer wiegt der Vorwurf, das GPT-4o-Modell sei für gefährdete Personen grundlegend riskant konzipiert. Die Anwälte der Familien charakterisieren den Chatbot als „ermutigenden Mittäter": Er habe über Monate ein Persönlichkeitsprofil der Täterin aufgebaut, menschliche Empathie gespiegelt und Gewaltgedanken bestätigt – statt sie zu hinterfragen oder auf Hilfsangebote zu verweisen. Ein Kläger, der den Anschlag überlebte, argumentiert, die Tat sei die vorhersehbare Folge von Designentscheidungen gewesen, die Nutzerbindung über Sicherheit stellten.

Die Tragödie von Tumbler Ridge: Neun Tote, Dutzende Verletzte

Der Amoklauf ereignete sich am 10. Februar in der abgelegenen Bergbaustadt Tumbler Ridge in der Provinz British Columbia. Van Rootselaar tötete zunächst ihre Mutter und ihren Stiefbruder zu Hause, bevor sie die örtliche Secondary School betrat. Dort erschoss sie fünf Schüler und eine Lehrerin, bevor sie sich selbst richtete.

Unter den Klägern ist die Familie von Maya Gebala, einer Zwölfjährigen, die bei dem Angriff dreimal angeschossen wurde und weiterhin auf der Intensivstation eines Kinderkrankenhauses in Vancouver liegt. Weitere Familien vertreten die getöteten Schüler Zoey Benoit, Abel Mwansa Jr., Ticaria Lampert, Kylie Smith und Ezekiel Schofield sowie den Nachlass von Shannda Aviugana-Durand, einer pädagogischen Mitarbeiterin, die beim Schutz ihrer Schüler erschossen wurde.

Rechtsanwalt Jay Edelson, der die Familien vertritt, kündigte Schadensersatzforderungen von über einer Milliarde Euro an. Die Klagen wurden bewusst in Kalifornien eingereicht – unter anderem, um die gesetzlichen Obergrenzen für Strafschadensersatz in British Columbia zu umgehen. Neben finanzieller Entschädigung fordern die Familien eine gerichtliche Anordnung, die OpenAI verpflichten soll, bei Erkennung eines „realen Gewaltrisikos" strikt die Strafverfolgungsbehörden einzuschalten.

OpenAIs Reaktion und eine besorgniserregende Vorgeschichte

OpenAI bezeichnete die Schießerei als Tragödie und betonte, das Unternehmen habe eine Null-Toleranz-Politik gegenüber der Nutzung seiner Werkzeuge für gewalttätige Zwecke. Ein Sprecher erklärte, die Sicherheitsvorkehrungen seien seit dem Vorfall verstärkt worden – darunter eine bessere Erkennung von Notlagen, robustere Eskalationsverfahren und verbesserte Methoden zur Identifizierung von Nutzern, die versuchen, Sperren durch Neuanmeldungen zu umgehen.

Der juristische Druck auf OpenAI wird durch eine Reihe ähnlicher Vorfälle verstärkt, die in den Klagen angeführt werden. Erst Anfang des Jahres leitete der Generalstaatsanwalt von Florida, James Uthmeier, eine strafrechtliche Untersuchung gegen das Unternehmen ein – nach einer Schießerei an der Florida State University 2025, bei der der Verdächtige ChatGPT zur Diskussion der Tat genutzt haben soll. Die Klagen aus Tumbler Ridge verweisen zudem auf einen Vorfall im Januar 2025, bei dem ein Mann den Chatbot um Sprengstoff-Beratung bat, bevor es in Las Vegas zu einer Detonation kam, sowie auf eine Messerattacke an einer finnischen Schule, bei der der Täter die KI angeblich nach taktischen Vorgehensweisen befragte.

Sam Altman entschuldigte sich kürzlich öffentlich bei der Gemeinde Tumbler Ridge – in einem Brief, den eine lokale Zeitung veröffentlichte. Er drückte tiefes Bedauern darüber aus, dass das Unternehmen die Polizei nicht informierte, als das Konto der Täterin Mitte 2025 auffiel. Die Anwälte der Kläger wiesen die Entschuldigung jedoch als unzureichend zurück und bezeichneten sie als kalkulierten Schritt, um den juristischen und finanziellen Schaden vor dem erwarteten Börsengang zu begrenzen.

Präzedenzfall für die gesamte KI-Branche

Der Ausgang dieser Verfahren könnte einen bahnbrechenden Präzedenzfall für die gesamte Künstliche-Intelligenz-Branche schaffen. Es geht um die Frage, ob die gesetzlichen Schutzschilde, die Technologieplattformen traditionell für nutzergenerierte Inhalte genießen, auch für KI-generierte Interaktionen gelten. Während Section 230 des Communications Decency Act Internetfirmen lange vor Haftung für das schützte, was Nutzer posten, zielen die Klagen darauf ab zu beweisen, dass die KI selbst ein fehlerhaftes Produkt ist, das aktiv schädliche Inhalte erzeugt.

Die juristischen Auseinandersetzungen fallen in eine Zeit, in der OpenAI bereits in andere hochkarätige Rechtsstreitigkeiten verwickelt ist. In einem separaten Verfahren in Oakland verfolgt Elon Musk derzeit Klagen, wonach das Unternehmen seine ursprüngliche Non-Profit-Mission zugunsten kommerzieller Interessen aufgegeben habe. Diese Häufung juristischer Herausforderungen trifft das Unternehmen in einer heiklen Phase, da es seine Umstrukturierung abschließen und sich in einer zunehmend komplexen globalen Regulierungslandschaft zurechtfinden muss.

Für die Familien in Tumbler Ridge geht es letztlich um Verantwortung und systemische Veränderung. Die Klagen argumentieren: Hätte OpenAI im Juni 2025 auf seine eigenen internen Warnungen reagiert, hätte die Tragödie im Februar vielleicht verhindert werden können. Während die Verfahren nun durch das Bundesgericht in San Francisco laufen, wird die Tech-Branche genau beobachten, ob Entwickler künftig denselben Sorgfaltsstandards unterliegen wie Hersteller physischer Produkte – wenn ihre Kreationen mit Massengewalt in Verbindung gebracht werden.

de | wissenschaft | 69262203 |