Sprach-KI: Audio-Prompt-Injections hebeln Schutzfilter in 70 Prozent aus

Sicherheitsforscher von Check Point schlagen Alarm wegen neuartiger Sicherheitsrisiken bei direkten Speech-to-Speech-Sprachassistenten. Solche KI-Systeme kommen zunehmend bei Banken, Versicherungen und Handelsunternehmen zum Einsatz, um Kundenanfragen in Echtzeit per Audio zu bearbeiten.

Da die Technologie Spracheingaben unmittelbar verarbeitet, ohne zuvor ein geschriebenes Texttranskript als prüfenden Kontrollpunkt zu generieren, lassen sich bestehende Schutzmechanismen durch gezielte akustische Manipulationen umgehen.

Hohe Erfolgsquote bei manipulierten Audiosignalen

Laut einem Bericht vom 8. November 2026 zeigen experimentelle Tests von Check Point eine erhebliche Anfälligkeit gängiger Spracharchitekturen für sogenannte Audio-Prompt-Injections. Open-Source-Audiomodelle gaben in den Versuchen auf schädliche Anfragen in über zwei Dritteln der Fälle bedenkliche Antworten aus.

Bei einem führenden Echtzeit-Sprachmodell genügte bereits die gezielte Anpassung von Sprechgeschwindigkeit, Tonhöhe und Hintergrundgeräuschen, um in etwa 70 Prozent der Fälle Schutzfilter auszuhebeln.

Zudem wiesen die Analysten nach, wie anfällig Transkriptionsmodelle für gezielte Störungen sind. Ein vorgeschalteter Audioschnipsel von nur 0,64 Sekunden Dauer führte dazu, dass ein weit verbreitetes System bei über 97 Prozent der getesteten Sprachaufnahmen überhaupt keine Ausgabe mehr erzeugte.

Die zunehmende Komplexität von KI-Systemen schafft neue Einfallstore für Cyberkriminelle, die gezielt Sicherheitslücken in Unternehmen ausnutzen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken jetzt kostenlos prüfen

Um derartigen Risiken zu begegnen, empfehlen die Experten von Check Point die Einführung einer zweistufigen Prüfung: Eingehende Audiosignale müssten zunächst auf Manipulationen des Tonsignals selbst untersucht werden, bevor der Inhalt über ein Transkript analysiert und weiterverarbeitet wird.

Wachsende Risiken für Finanzwesen und Authentifizierung

Sicherheitsforscher weisen darauf hin, dass die Angriffsfläche bei der KI-basierten Audioverarbeitung weit über einfache Textbefehle hinausgeht. Neben adversarialen Attacken über für das menschliche Gehör unhörbares Signalrauschen drohen Bedrohungen durch Voice Spoofing mittels nachgeahmter Stimmen sowie die Einschleusung versteckter oder über Ultraschall übertragener Steuerbefehle.

Derartige Methoden sind vor allem für Authentifizierungsverfahren im Bankensektor, für IoT-Sprachassistenten und für sicherheitsrelevante Infrastrukturen kritisch. Als zentrale Herausforderung bei der Abwehr gilt der Spagat zwischen hoher Erkennungsgenauigkeit und der Robustheit gegen Manipulationen; Verfahren zur Lebenderkennung echter Stimmen befinden sich derzeit noch in aktiver Entwicklung.

Die Erkenntnisse fügen sich in ein größeres Lagebild wachsender KI-Missbrauchsfälle ein. Sicherheitsforscher verweisen darauf, dass Täuschungsangriffe besonders in der Kundenbetreuung, bei der Kontowiederherstellung und in der Identitätsprüfung erhebliche Schäden anrichten können.

Da Cyberangriffe immer häufiger durch psychologische Manipulation und technische Schwachstellen erfolgen, wird proaktive Prävention für Firmen unverzichtbar. Erfahren Sie im kostenlosen E-Book, wie Sie Sicherheitslücken schließen und gleichzeitig neue gesetzliche Anforderungen erfüllen. Gratis-E-Book: IT-Sicherheit ohne teure Investitionen stärken

In Frankreich beliefen sich Schäden durch manipulationsbasierten Betrug im Jahr 2025 bereits auf 516 Millionen Euro, was einem Anstieg von 34 Prozent gegenüber dem Vorjahr entspricht.

Vor diesem Hintergrund mahnen auch IT-Sicherheitsbehörden wie das indische CERT-In, Sicherheitsarchitekturen im Umgang mit KI-Modellen grundlegend zu überarbeiten und auf strikte Zugriffsbeschränkungen sowie eine kontinuierliche Überwachung der Systeme zu setzen.