E-Mail-KI gehackt: Unsichtbarer HTML-Code manipuliert Zusammenfassungen
Veröffentlicht am: 28.08.2026 um 21:24 Uhr | Redaktion boerse-global.de
Die Sicherheitsforscher von Forcepoint X-Labs haben am 26. August 2026 eine Schwachstelle bei der automatisierten Zusammenfassung von E-Mails durch Künstliche Intelligenz demonstriert.
Durch den Einsatz von für den Menschen unsichtbarem HTML-Code in elektronischen Nachrichten können Large Language Models (LLMs) dazu verleitet werden, manipulierte oder schlicht falsche Zusammenfassungen zu erstellen.
Diese Form der Prompt-Injection nutzt Formatierungen wie eine Schriftgröße von null Pixeln oder weiße Schrift auf weißem Grund, um Anweisungen direkt an das KI-Modell zu schleusen, ohne dass der Empfänger den Betrug bemerkt.
Erfolgreiche Manipulation in Testreihen
In einer Versuchsreihe untersuchte Forcepoint X-Labs die Auswirkungen dieser Technik auf das Modell Claude-haiku-4-5. Die Forscher präparierten eine E-Mail mit versteckten HTML-Elementen, die spezifische Anweisungen zur Änderung des Inhalts enthielten. Die Ergebnisse der Untersuchung am 26. August 2026 zeigten eine Fehlerquote von 100 Prozent bei der KI: In zehn von zehn Testläufen erstellte das System eine fehlerhafte Zusammenfassung.
Besonders kritisch bewerteten die Experten die Veränderung von Fakten. So wurde in den Tests ein ursprüngliches Rechnungsdatum vom 21. August 2026 durch die KI eigenmächtig auf den 3. September 2026 korrigiert.
Darüber hinaus unterschlug das Modell in der Zusammenfassung systematisch den Namen Diego Siciliani, der im Originaltext der Nachricht enthalten war. Dies verdeutlicht, dass Angreifer in der Lage sind, geschäftskritische Informationen in automatisierten Prozessen gezielt zu verfälschen.
Wer sich mit der Integration von KI-Systemen im Unternehmen befasst, muss die neuen rechtlichen Rahmenbedingungen und Sicherheitsanforderungen genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Pflichten und Fristen der aktuellen EU-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Schwachstellen in der Vertrauensgrenze
Zusätzliche Analysen des Sicherheitsdienstleisters Sentinel vom selben Tag bestätigten die Funktionsweise dieser Angriffe. Demnach werden unsichtbare Texte in HTML-Tags von E-Mail-Summarizern oft fälschlicherweise als Teil des System-Prompts interpretiert. Ein Angreifer könne beispielsweise Anweisungen wie das Ignorieren des vorherigen Kontextes in einem verborgenen Span-Element platzieren.
Laut Sentinel handle es sich hierbei nicht um eine klassische Software-Schwachstelle im Sinne einer CVE-Nummer, sondern um ein strukturelles Problem an der Vertrauensgrenze (Trust-Boundary) zwischen ungesicherten Eingabedaten und der KI-Logik. Da das Modell nicht zwischen dem sichtbaren Inhalt für den Nutzer und dem technischen Code unterscheidet, wird der versteckte Text als legitime Anweisung verarbeitet.
Neue technologische Möglichkeiten bringen oft auch neue Einfallstore für Cyberkriminalität mit sich, die über klassische Sicherheitslücken weit hinausgehen. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen Unternehmen jetzt kennen müssen, um sich proaktiv zu schützen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Empfehlungen für Unternehmen und Entwickler
Um die Risiken dieser Prompt-Injection zu minimieren, rät Forcepoint X-Labs dazu, eingehende E-Mails grundsätzlich als unsichere Datenquellen zu behandeln.
Unternehmen sollten bei der Implementierung von KI-Zusammenfassungen darauf achten, dass lediglich der tatsächlich sichtbare Text extrahiert wird. Eine gründliche Prüfung von HTML- und CSS-Bestandteilen sei notwendig, um manipulierte Formatierungen vor der Verarbeitung durch das LLM zu entfernen.
Sentinel empfiehlt zudem einen mehrstufigen Schutzmechanismus. Neben der Erkennung von verdächtigen Mustern durch reguläre Ausdrücke (Regex) auf einer zweiten Sicherheitsebene könne eine dritte Ebene die semantische Ähnlichkeit prüfen. Damit ließe sich feststellen, ob die durch die KI generierte Zusammenfassung inhaltlich noch mit dem ursprünglichen Text der E-Mail korrespondiert oder durch versteckte Befehle unzulässig verändert wurde.
