Copilot-Exploit: Sicherheitsforscher zeigen 247.500-Dollar-Betrug
Veröffentlicht am: 04.08.2026 um 20:48 Uhr | Redaktion boerse-global.de
In einem aktuellen Proof-of-Concept hat das IT-Sicherheitsunternehmen Barracuda Networks aufgezeigt, wie Cyberkriminelle den KI-Assistenten Microsoft Copilot innerhalb eines bereits kompromittierten E-Mail-Kontos für sogenannte Living-off-the-Land-Angriffe missbrauchen können. Bei diesem Verfahren nutzen Angreifer legitime, im System vorhandene Werkzeuge, um ihre Aktivitäten zu tarnen. Den Sicherheitsforschern gelang es dabei, einen Angriff von einem niedrigrangigen Mitarbeiterkonto bis hin zum Konto des Geschäftsführers zu eskalieren und einen betrügerischen Überweisungsauftrag über 247.500 US-Dollar zu simulieren.
Die Rolle der KI bei der Eskalation von Angriffen
Der durchgeführte Testlauf verdeutlicht, dass die Integration von Künstlicher Intelligenz in Bürosoftware neue Angriffsvektoren eröffnet. Den Erkenntnissen von Barracuda Networks zufolge unterstützt Copilot die Angreifer bereits in der Phase der Aufklärung (Reconnaissance). Die KI kann große Mengen an interner Korrespondenz analysieren, um Hierarchien und Geschäftsabläufe zu verstehen. Auf dieser Basis ist das System in der Lage, täuschend echte Phishing-E-Mails zu verfassen, die den individuellen Schreibstil des Kontoinhabers imitieren.
Besonders kritisch bewerteten die Forscher die Fähigkeit der KI, den Prozess der Rechteausweitung zu beschleunigen. Im simulierten Szenario, das sich auf einen Vertrag im Lackawanna County bezog, wurde Copilot dazu genutzt, die Kommunikation so zu manipulieren, dass eine Überweisung in Höhe von 247.500 US-Dollar initiiert wurde. Da die Nachrichten direkt aus dem echten Konto und im gewohnten Stil des Absenders verfasst wurden, sinkt die Wahrscheinlichkeit, dass Empfänger den Betrug bemerken.
Umgehung von Sicherheitsmechanismen und Spurenbeseitigung
Ein zentraler Aspekt der Untersuchung war die vollständige Umgehung der Multi-Faktor-Authentifizierung (MFA). Sobald ein Angreifer initialen Zugriff auf ein Konto erlangt hat, kann er Copilot anweisen, Posteingangsregeln zu erstellen, die zur Verschleierung der Aktivitäten dienen. Diese Stealth-Regeln sorgen beispielsweise dafür, dass Bestätigungs-E-Mails oder Warnmeldungen sofort gelöscht oder verschoben werden, wodurch der Angriff für den rechtmäßigen Nutzer unsichtbar bleibt.
Wer sich mit der zunehmenden Professionalisierung von Cyberangriffen befasst, muss auch die psychologischen Manipulationstaktiken moderner Hacker verstehen. Dieser kostenlose Report enthüllt, welche Schwachstellen bei Mitarbeitern gezielt ausgenutzt werden und wie sich Firmen wirksam schützen. 7 psychologische Schwachstellen und Schutzmethoden entdecken
Die Forscherin Merium Khalid bezeichnete die Durchführung solcher Angriffe als trivial. Sie wies darauf hin, dass die KI nicht nur bei der Erstellung von bösartigen Inhalten hilft, sondern auch aktiv dabei unterstützt, Beweisspuren nach einem erfolgreichen Zugriff zu bereinigen. Angesichts dieser Risiken forderte die Expertin die Implementierung eines sogenannten Kill-Switches für KI-Assistenten in E-Mail-Systemen, um diese im Notfall zentral deaktivieren zu können. Barracuda gab zudem an, dass moderne Sicherheitslösungen wie das hauseigene XDR-System oder Email Gateway Defense in der Lage seien, derartige Anomalien zu identifizieren.
Reaktionen der Branche und neue Schutzmaßnahmen bei Microsoft
Als Reaktion auf die zunehmende Gefahr durch KI-gestützte Manipulationen hat Microsoft Maßnahmen für seinen Sicherheitsdienst Defender for Office 365 angekündigt. Anfang August wurde eine Schutzfunktion gegen Prompt-Injection-Angriffe in die öffentliche Testphase (Public Preview) überführt. Diese Funktion soll E-Mails, die schädliche Befehle für KI-Modelle enthalten, als hochgradig verdächtiges Phishing identifizieren und blockieren.
Die rasanten Fortschritte bei KI-Systemen führen nicht nur zu neuen Sicherheitsrisiken, sondern auch zu strengen gesetzlichen Anforderungen für Unternehmen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über Pflichten, Risikoklassen und Fristen der aktuellen EU-KI-Verordnung. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Die allgemeine Verfügbarkeit dieser Schutzmaßnahme ist für Anfang September 2026 geplant. Sie wird standardmäßig in den Paketen Microsoft Defender for Office 365 Plan 2 integriert sein. Damit ergänzt das Unternehmen bestehende Data-Loss-Prevention-Regeln (DLP), um den Missbrauch von Copilot durch externe Eingaben zu erschweren. Experten raten Unternehmen dennoch zur erhöhten Wachsamkeit, da die Automatisierung durch KI die Geschwindigkeit und Qualität von Social-Engineering-Angriffen massiv steigern kann.
