Deepfake-Erkennung: Deutsche Forscher warnen in Echtzeit vor KI-Betrug

Deutsche Forscher entwickeln Software, die manipulierte Identitäten in Live-Gesprächen in Echtzeit entlarvt. Der Schutz kommt zu einem kritischen Zeitpunkt – die Zahl der Betrugsfälle explodiert.

Videokonferenzen sind aus dem Arbeitsalltag nicht mehr wegzudenken. Doch die Technik birgt ein wachsendes Risiko: Immer häufiger nutzen Kriminelle täuschend echte KI-manipulierte Bilder, um sich als Vorgesetzte oder Geschäftspartner auszugeben. Das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) und das Nationale Forschungszentrum für angewandte Cybersicherheit (ATHENE) haben nun ein System entwickelt, das solche Deepfakes während laufender Videoanrufe erkennt und sofort warnt.

Analyse direkt auf dem Rechner

Der entscheidende Vorteil des neuen Werkzeugs: Die Prüfung erfolgt lokal auf dem eigenen Computer – nicht in der Cloud. So bleiben sensible Gesprächsdaten geschützt. Allerdings braucht das System dafür einen Laptop oder Arbeitsplatzrechner mit einer Grafikkarte, die mindestens 12 Gigabyte Videospeicher besitzt.

Die Software kombiniert Audio- und Videoanalyse, um die Echtheit der Gesprächsteilnehmer zu bewerten. Das trainierte KI-Modell basiert auf einem Datensatz mit 19.000 authentischen Audioaufnahmen und 160.000 synthetischen oder manipulierten Proben. Läuft das Programm, zeigt es die Wahrscheinlichkeit eines Deepfakes an. Die finale Entscheidung, ob ein Gespräch vertrauenswürdig ist oder beendet werden sollte, bleibt dem Menschen überlassen.

Wer sich mit den neuen rechtlichen Anforderungen durch den EU AI Act befasst, benötigt eine klare Übersicht zu den kommenden Pflichten und Risikoklassen. Dieser kostenlose Umsetzungsleitfaden liefert den notwendigen Überblick für Rechts- und IT-Abteilungen. EU AI Act in 5 Schritten verstehen

Der Demonstrator befindet sich derzeit in der Testphase. Vor einem Marktstart müssen noch offene Fragen zur Datenschutz-Grundverordnung (DSGVO) geklärt werden.

Betrugsfälle steigen dramatisch

Die Entwicklung kommt nicht zu früh. Die Zahl der Deepfake-Betrugsfälle nimmt rasant zu. Allein in Singapur registrierten die Behörden im Januar 2026 rund 1.200 Fälle – im Vorjahr waren es gerade einmal 43. Ein besonders spektakulärer Fall sorgte 2025 für Aufsehen: Ein Finanzvorstand in Singapur verlor umgerechnet rund 460.000 Euro, nachdem er an einem Videoanruf mit manipulierten Bildern teilgenommen hatte.

Auch der rechtliche Rahmen verschärft sich. Seit dem 2. August 2026 gelten neue Transparenzpflichten des EU AI Acts, die eine klarere Kennzeichnung synthetischer Medien vorschreiben.

Angesichts neuer KI-Gesetze und komplexer Cyberrisiken müssen Unternehmen heute genau wissen, welche rechtlichen Pflichten auf sie zukommen. Dieser kostenlose Report klärt auf, wie Sie Ihr Unternehmen proaktiv schützen und Sicherheitslücken schließen. Gratis-E-Book zu Cyber Security Trends herunterladen

Breite Offensive gegen synthetische Medien

Das Fraunhofer-System ist Teil einer größeren Bewegung zur Absicherung digitaler Kommunikation. Zahlreiche Unternehmen und Forschungseinrichtungen kündigten zuletzt ähnliche Schutzmaßnahmen an:

• Microsoft bringt im August 2026 die Funktion „Report a Concern" für Teams auf den Markt. Nutzer können damit mutmaßliche Deepfakes oder Identitätsbetrug direkt an Administratoren und Sicherheitsportale melden.
• Secured Signing startete am 3. August 2026 seine ID Trust Console – eine Lösung zur kontinuierlichen Identitätsprüfung und Deepfake-Erkennung für Online-Beglaubigungen und digitale Signaturen.
• Forscher der UC Riverside entwickelten das Tool SAGA, das KI-generierte Videos anhand zeitlicher Merkmale ihren Erzeugermodellen zuordnen kann.
• Indien genehmigte am 4. August 2026 dreizehn „Responsible AI"-Projekte zur Deepfake-Erkennung, darunter Systeme zur Echtzeit-Spracherkennung des IIT Kharagpur. Zudem plant die Regierung, die Erstellung von Deepfakes als eigenen Straftatbestand zu definieren.

Die Jagd bleibt ein Wettlauf

So fortschrittlich die Erkennungstechniken auch sind – die Angreifer geben nicht auf. Erst am 3. August 2026 demonstrierte die Firma Reality Defender, dass synthetische Gesichter weiterhin in bestimmte biometrische Kontoschutzsysteme eingeschleust werden können. Der Kampf um die Sicherheit digitaler Identitäten bleibt ein Wettlauf ohne Ziellinie.

de | wissenschaft | 69916454 |