KI-Assistenten im Visier: Versteckte Prompts machen Phishing-Mails glaubwürdig

Nutzer leiden zunehmend unter einer spürbaren Betrugsmüdigkeit, während Cyberkriminelle ihre Methoden weiterentwickeln und vermehrt auf KI-Agenten sowie versteckte Texteingaben setzen.

Wie Sicherheitsberichte zeigen, geraten dabei digitale Helfer direkt ins Visier: Kriminelle manipulieren KI-gestützte E-Mail-Assistenten gezielt durch sogenannte Prompt Injections, um betrügerische Nachrichten als vertrauenswürdig oder dringlich einstufen zu lassen.

Verborgene Befehle manipulieren automatisierte Assistenten

Das Sicherheitsunternehmen Malwarebytes warnt vor den Risiken dieser Angriffsform. Täter schleusen dabei Anweisungen in E-Mails ein, die für menschliche Augen unsichtbar bleiben, von KI-Systemen jedoch erfasst und interpretiert werden. In der Folge fasst ein betroffener KI-Assistent eine verdächtige Nachricht unter Umständen als seriös oder eilig zusammen.

Untersuchungen von Barracuda Research verdeutlichen die zweistufige Struktur dieser Phishing-Mails. Die Angreifer kombinieren sichtbare Inhalte für menschliche Empfänger – etwa passwortgeschützte Anhänge – mit versteckten Steuerungsbefehlen für die KI. Verarbeitet der E-Mail-Assistent den Text, kann die manipulierte Zusammenfassung den Nutzer dazu verleiten, schädliche Links anzuklicken oder Sicherheitsprüfungen zu übergehen.

Apollo Raines vom Sicherheitsanbieter ShipItClean betont, dass aktuelle Modelle prinzipbedingt nicht verlässlich zwischen reinem Lesetext und Handlungsbefehlen unterscheiden können. Während viele Anwender über die Jahre gelernt hätten, verdächtigen E-Mails zu misstrauen, bestehe gegenüber den eigenen KI-Assistenten oft ein unkritisches Grundvertrauen.

Rekord-Schäden durch Phishing zeigen, wie wichtig eine aktive Hacker-Abwehr für Unternehmen und Organisationen geworden ist. Erfahren Sie in diesem kostenlosen Paket, wie Sie aktuelle psychologische Manipulationstaktiken entlarven und Ihre Sicherheit nachhaltig stärken. Kostenloses Anti-Phishing-Paket für Unternehmen anfordern

Das Problem betrifft ein wachsendes Anwendungsfeld: KI-Assistenten wie Metas Muse zählen Millionen Nutzer und führen Aufgaben eigenständig aus. Schwachstellen durch Prompt Injections wurden zudem auch in KI-Browsern sowie im KI-Netzwerk Moltbook identifiziert.

Sicherheitsanforderungen und wachsende Belastung der Anwender

Als Schutzmaßnahme empfiehlt Malwarebytes, kritische Geschäftsprozesse nicht vollautomatisch abzuwickeln. Bei Zahlungsfreigaben oder Änderungen von Lieferantendaten müsse stets eine menschliche Bestätigung erforderlich sein. Zudem sollten Nutzer die Originalanfrage selbst prüfen, anstatt sich ausschließlich auf die KI-Zusammenfassung zu verlassen.

Nach Ansicht von Raines sollten verdächtige Inhalte idealerweise herausgefiltert werden, bevor sie das Sprachmodell erreichen. Dies gleiche in der Praxis jedoch einem ständigen Wettrüsten, da jede neuartige Kodierung ein neues Einfallstor biete. Notwendig seien daher mehrschichtige Sicherheitsvorkehrungen, darunter Filter, Schutzhüllen, isolierte Ausführungsumgebungen und verbindliche Freigabeprozesse durch Menschen.

Wer sich mit der zunehmenden Professionalisierung von Cyberangriffen befasst, benötigt fundiertes Wissen über aktuelle Bedrohungen und gesetzliche Anforderungen. Ein kostenloser Experten-Report zeigt auf, wie Sie Ihr Unternehmen proaktiv absichern, bevor Sicherheitslücken ausgenutzt werden. Gratis-E-Book: Cyber Security Trends jetzt herunterladen

Die verfeinerten Angriffsmethoden treffen auf eine Bevölkerung, die bereits massiv von digitalem Betrug belastet ist. Eine Umfrage der CNET Group unter 1.000 US-Erwachsenen, die vom 9. bis 12. September 2026 über Suzy Insights erhoben wurde, verdeutlicht die Dimension: Über 80 Prozent der Befragten erhalten demnach mindestens einmal pro Woche Phishing-Nachrichten oder gefälschte Texte, während 75 Prozent wöchentlich mit Spam-Anrufen konfrontiert sind.

Zudem gaben 59 Prozent an, im vergangenen Jahr selbst oder im Familienkreis von Betrug betroffen gewesen zu sein; über 58 Prozent wurden bereits von KI-basiertem Betrug ins Visier genommen oder äußerten entsprechende Sorgen.