Discord-Klage Brasilien: 97 Millionen Dollar für Jugendschutz-Mängel

Die brasilianische Generalstaatsanwaltschaft (AGU) hat Discord auf umgerechnet rund 97 Millionen US-Dollar (R$500 Mio.) verklagt. Der Vorwurf: Die Plattform habe Kinder, Jugendliche, Frauen und auch Tiere nicht ausreichend geschützt und damit gegen das brasilianische ECA-Digital-Gesetz verstoßen.

Selbstmord eines 13-Jährigen als Auslöser

Ausgangspunkt der Klage ist der Fall eines 13-jährigen Jungen, der im Juli seinen Suizid auf Discord live streamte. Nach Angaben der Klageschrift benötigte die Plattform rund zwei Stunden, um den Livestream zu entfernen.

Der interne Moderations-Score des Videos lag laut den Unterlagen bei lediglich 0,12 – bei einem Schwellenwert von 0,95, ab dem automatisierte Systeme eigentlich eingreifen sollten. Die enorme Diskrepanz zwischen tatsächlichem und erforderlichem Wert wird von den Klägern als zentraler Beleg für strukturelle Mängel im Moderationssystem des Unternehmens angeführt.

Zehn Verstöße, konkrete Forderungen

Der Fall zeigt, wie schnell technische Sicherheitslücken und unzureichende Moderation zu massiven rechtlichen Konsequenzen für Unternehmen führen können. In diesem kostenlosen E-Book erfahren Sie, wie Sie proaktiv Bedrohungen abwenden und neue gesetzliche Anforderungen an die digitale Sicherheit erfüllen. Gratis-E-Book: IT-Sicherheit und gesetzliche Anforderungen jetzt sichern

Die Klage listet insgesamt zehn Einzelverstöße auf, die jeweils mit 9,7 Millionen US-Dollar beziffert werden. Die AGU verlangt von Discord unter anderem eine verbindliche Altersverifikation, den Einsatz von Systemen zur Echtzeit-Erkennung gefährlicher Inhalte sowie den Aufbau eines eigenen, portugiesischsprachigen Trust-&-Safety-Teams für den brasilianischen Markt. Sollte Discord diesen Auflagen nicht nachkommen, drohen laut Klageschrift zusätzlich tägliche Zwangsgelder in Höhe von R$500.000.

Discord selbst bezeichnete die Klage als unverhältnismäßig.

Sperrung besteht bereits seit August

Der rechtliche Druck auf Discord in Brasilien ist nicht neu: Die Plattform ist im Land bereits seit dem 12. August gesperrt. Die nun eingereichte Klage verschärft die Situation für das Unternehmen zusätzlich, da sie neben der bereits bestehenden Suspendierung eine hohe finanzielle Forderung sowie konkrete technische und personelle Auflagen mit sich bringt.

Neben technischen Mängeln nutzen Angreifer oft psychologische Schwachstellen aus, um Sicherheitssysteme zu umgehen. Dieser Report klärt darüber auf, welche Methoden aktuell eingesetzt werden und wie sich Organisationen wirksam vor digitalem Betrug schützen. Kostenlosen Anti-Phishing-Guide hier herunterladen

Einordnung

Der Fall reiht sich in eine wachsende Zahl von Verfahren ein, in denen Behörden weltweit soziale Plattformen für unzureichenden Jugendschutz haftbar machen wollen. Für Discord steht dabei nicht nur eine finanzielle Belastung im Raum, sondern auch die grundsätzliche Frage, wie schnell und zuverlässig automatisierte Moderationssysteme lebensbedrohliche Inhalte erkennen müssen.

Der niedrige Moderations-Score im vorliegenden Fall dürfte in kommenden Verfahren als zentrales Argument dafür dienen, dass bestehende technische Schwellenwerte in der Praxis nicht ausreichen, um Nutzer rechtzeitig zu schützen. Wie sich die brasilianische Sperrung und die neue Klage auf den weiteren Betrieb von Discord im Land auswirken, dürfte sich in den kommenden Wochen zeigen.

de | wissenschaft | 70017757 |