KI-Deepfakes: Südkorea verschärft Regeln ab 7. Juli drastisch

Von Südkorea bis in die USA entstehen neue gesetzliche Rahmenbedingungen, während die wirtschaftlichen Schäden durch KI-Betrug in die Milliarden gehen.

Südkorea verschärft Regeln für große Plattformen

Ab dem 7. Juli 2026 tritt in Südkorea ein überarbeitetes Informations- und Kommunikationsnetzgesetz in Kraft. Plattformen mit mehr als einer Million täglicher Nutzer müssen dann eigene Meldewege für manipulierte oder falsche Inhalte einrichten. Besonders brisant: Content-Ersteller mit über 100.000 Abonnenten können künftig mit Schadensersatzforderungen in Höhe des Fünffachen des tatsächlich verursachten Schadens belangt werden.

Die Bevölkerung ist gespalten. Während über 60 Prozent der Südkoreaner das Gesetz befürworten, fürchten jüngere Generationen eine mögliche Zensur. Ein schmaler Grat zwischen Schutz und Kontrolle – der sich in vielen Ländern ähnlich stellt.

USA planen Kennzeichnungspflicht für KI-Inhalte

Auch in den USA nimmt die Gesetzgebung Fahrt auf. Senator Brian Schatz brachte Ende Juni den "AI Labeling Act of 2026" ein. Das Gesetz soll Anbieter generativer KI – darunter Meta, Google und Amazon – verpflichten, KI-erzeugte Audio-, Video- und Bildinhalte klar zu kennzeichnen. Die Entwicklung der Standards soll das National Institute of Standards and Technology (NIST) übernehmen, die Durchsetzung läge bei der US-Handelsbehörde FTC.

Japans Forscher entwickeln spezialisierte Detektoren

Während die Politik Rahmenbedingungen schafft, arbeiten Forschungseinrichtungen an technischen Lösungen. Japans National Institute of Informatics (NII) hat seinen Synthetiq-Vision-Detektor im Juni 2026 aktualisiert. Das seit 2023 lizenzierte Tool kann nun gezielt gefälschte Bilder von Naturkatastrophen erkennen. Entwickelt wurde es im Rahmen eines Konsortiums unter Federführung von Fujitsu, das bis Mitte 2025 eine umfassende Plattform zur Bekämpfung von Desinformation auf den Markt bringen will.

Während die globale Regulierung von KI-Inhalten zunimmt, müssen Unternehmen auch hierzulande neue gesetzliche Pflichten wie Kennzeichnung und Risikodokumentation erfüllen. Dieser kostenlose Leitfaden hilft Ihrer IT- und Rechtsabteilung, die Anforderungen der EU-KI-Verordnung rechtzeitig und sicher umzusetzen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Im privaten Sektor haben sich Tools wie Microsoft Video Authenticator und Reality Defender etabliert. Sie analysieren Deepfakes in Echtzeit und werden zunehmend in Moderations-Workflows integriert. Forscher arbeiten zudem an spezialisierten Modellen: Das X-HND-Modell etwa erkennt Fake-News im Gesundheitsbereich, indem es emotionale Merkmale mit neuronalen Graphnetzwerken kombiniert.

Indische Gerichte erhöhen Druck auf Plattformen

Soziale Netzwerke geraten weltweit unter Druck. In Indien verhandelt der Bombay High Court über eine Klage von Schauspielerin Preity Zinta, die die Entfernung von Deepfakes und manipulierten Bildern von mehreren Plattformen fordert. Eine Anhörung am 6. Juli 2026 soll klären, ob ein formeller Löschmechanismus eingerichtet wird.

Parallel dazu hat die indische Regierung Meta vorgeladen. Grund: Instagram-Werbung, die Material mit sexuellem Kindesmissbrauch bewarb. Das Ministerium stellte klar, dass sich das Unternehmen bei bezahlten Anzeigen nicht auf die Drittanbieter-Klausel berufen könne. Auslöser war eine BBC-Recherche, die aufdeckte, wie Algorithmen illegale Inhalte bewarben und Nutzer zu externen Kommunikationskanälen führten.

Milliardenverluste durch KI-Betrug

Die wirtschaftlichen Folgen sind immens. Deloitte-Analysten prognostizieren, dass KI-generierte Betrugsfälle in den USA bis 2027 Verluste von umgerechnet rund 37 Milliarden Euro verursachen könnten. Bereits 2025 meldete das FBI KI-bezogene Schäden von etwa 830 Millionen Euro.

Angesichts der rasanten Entwicklung neuer KI-Systeme und der damit verbundenen Cyberrisiken stehen viele Unternehmen vor unklaren rechtlichen Pflichten. Dieser kostenlose Report klärt auf, welche Maßnahmen Unternehmer jetzt kennen müssen, um Compliance und Sicherheit zu vereinen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?

In Deutschland sind die Zahlen alarmierend. Die Polizei Baden-Württemberg verzeichnete 2025 Rekordschäden von 212 Millionen Euro durch Deepfake-Betrug. Die Dunkelziffer dürfte laut Behördenangaben deutlich höher liegen.

Desinformation bedroht Wahlen und öffentliche Sicherheit

Falschinformationen gefährden zudem die öffentliche Sicherheit. Faktenchecker widerlegten jüngst Behauptungen, zwei Erdbeben in Venezuela am 24. Juni 2026 seien durch absichtliche Atmosphärenforschung ausgelöst worden. Tatsächlich existiert keine Technologie, die solche seismischen Ereignisse auslösen könnte.

Um politische Desinformation einzudämmen, hat die indische Wahlkommission Konferenzen und Medienkompetenz-Clubs ins Leben gerufen. Sie sollen junge Wähler darin schulen, synthetische Inhalte und Deepfakes zu erkennen – bevor sie den Wahlausgang beeinflussen können.

de | wissenschaft | 69688912 |