Deepfakes explodieren: Betrugsfälle steigen um 3000 Prozent
Veröffentlicht: 21.06.2026 um 15:56 Uhr, Redaktion boerse-global.de
Während Betrugsfälle um 3000 Prozent steigen, versuchen Aufsichtsbehörden weltweit gegenzusteuern.
Die unsichtbare Grenze zwischen Realität und Fiktion
Der Digitalforensiker Hany Farid schlägt Alarm: Normale Internetnutzer sind nicht mehr in der Lage, KI-generierte Bilder und Videos zuverlässig zu erkennen. Die Zahlen geben ihm recht. Waren es 2023 noch rund 500.000 Deepfake-Dateien, stieg ihre Zahl bis 2025 auf acht Millionen an. Parallel dazu verzeichneten Ermittler einen Anstieg der Betrugsversuche um 3000 Prozent.
Farid sieht die Entwicklung kritisch: „Die derzeitige Entwicklung der KI riskiert, unser gemeinsames Verständnis von Realität zu untergraben." Besonders scharf kritisiert er die großen Technologiekonzerne, die diese Werkzeuge massenhaft verbreiten.
Angesichts der rasanten Zunahme von KI-generierten Inhalten und Betrugsversuchen wird es für Nutzer immer wichtiger, die Möglichkeiten der Künstlichen Intelligenz sicher zu verstehen. Dieser kostenlose Ratgeber zeigt Ihnen, wie Sie die KI im Alltag als hilfreiches Werkzeug einsetzen, ohne dabei den Überblick zu verlieren. Urlaub planen, Sprachen lernen, Zeit sparen: So erledigt ChatGPT Ihre Alltagsaufgaben in Sekunden
Musikindustrie unter Druck
Auch die Musikbranche spürt die Folgen. Rund 44 Prozent aller neuen Musikuploads auf der Plattform Deezer sind mittlerweile KI-generiert – das zeigen Branchenberichte vom Juni 2026. Das Magazin The Atlantic veröffentlichte kürzlich eine durchsuchbare Datenbank mit über 21 Millionen Musiktiteln, die für das Training von KI-Modellen verwendet wurden. Die Datensätze stammen unter anderem von YouTube und Spotify – möglicherweise unter Verletzung der Nutzungsbedingungen.
Die Sängerin SZA musste feststellen, dass 238 ihrer Songs – darunter unveröffentlichtes Material – in solchen Trainingsdatensätzen landeten.
Europa schafft neue Regeln
Die EU-Kommission veröffentlichte am 10. Juni 2026 einen „Verhaltenskodex" zur Kennzeichnung von KI-Inhalten. Empfohlen werden Metadaten, Wasserzeichen und sichtbare Labels für Texte, Bilder, Audio und Video. Die Maßnahmen sollen die Zeit bis zum Inkrafttreten des EU AI Acts am 2. August 2026 überbrücken.
Doch der Handel sträubt sich. Der Verband Eurocommerce, der große Einzelhändler wie Amazon, H&M und Ikea vertritt, fordert Ausnahmen für KI-generierte Werbung. Zalando berichtet, dass bereits 90 Prozent des eigenen Marketingmaterials von Künstlicher Intelligenz produziert wird. Der Begriff „Deepfake" sei für normale Produktbilder unangemessen, so das Unternehmen.
Die rechtliche Lage rund um den EU AI Act stellt Unternehmen bereits jetzt vor große Herausforderungen bei der Kennzeichnung und Dokumentation von KI-Systemen. Sichern Sie sich diesen kostenlosen Umsetzungsleitfaden, um alle Fristen und Pflichten der neuen KI-Verordnung rechtssicher zu erfüllen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Gerichtsurteil mit Signalwirkung
Das Münchner Landgericht erließ am 28. Mai 2026 eine einstweilige Verfügung gegen Google. Die Richter entschieden, dass der Konzern für seine KI-generierten Zusammenfassungen haftet – denn diese stellten Googles eigenen Content dar. Auslöser war ein Fall, bei dem eine KI-Übersicht bestimmte Verlage fälschlicherweise mit betrügerischen Aktivitäten in Verbindung brachte. Google kündigte Berufung an.
Organisierte Kriminalität im großen Stil
Das FBI und Google zerschlugen gemeinsam eine chinesische Cyberkriminalitätsgruppe namens „Outsider Enterprise". Die Bande nutzte Googles KI Gemini, um fast 9.000 betrügerische Websites zu erstellen und über eine Million schädliche URLs zu identifizieren. Der Schaden: rund 1,9 Milliarden Euro. Über 3,8 Millionen Kreditkartendaten wurden gestohlen.
Besonders perfide: Reise- und Liebesbetrug nehmen rasant zu. Im Mai 2026 entstanden fast 500 neue betrügerische Reise-Websites – jede 112. neue Reisedomain stellte eine Gefahr für Nutzer von Booking.com oder Airbnb dar. Das FBI berichtet zudem von Romance Scams, bei denen Kriminelle sich als Musiker ausgaben. Zwischen Januar 2024 und September 2025 entsteht ein Schaden von über zwölf Millionen Euro. Die meisten Opfer waren älter als 60 Jahre.
Wenn die KI zur persönlichen Waffe wird
Zwei Fälle aus Asien zeigen die menschenverachtende Seite der Technologie. In Bengaluru nahm die Polizei drei Männer fest – einen Krankenpfleger, einen Softwareentwickler und einen Buchhalter. Sie hatten mit KI „Bikini-Fakes" der Schauspielerin Rukmini Vasanth erstellt und über 29 Social-Media-Konten verbreitet. Motiv: Profit und persönliche Belustigung.
In Singapur entdeckte ein Mann im Dezember 2025, dass ein ehemaliger Klassenkamerad KI genutzt hatte, um Bilder zu erstellen, die ihn und die Ex-Klassenkameradin als Paar mit Baby zeigten. Zudem missbrauchte der Täter Fotos von jungen Verwandten des Opfers. Gerichtspsychologen bescheinigten dem Täter wahnhaftes Verhalten.
Der Oberste Gerichtshof von Delhi warnte eindringlich: Irreführende Social-Media-Beiträge könnten das Vertrauen der Öffentlichkeit in staatliche Institutionen zerstören.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
