KI-Sicherheit: Cisco warnt vor Missbrauch von Claude, Gemini und Cursor
Veröffentlicht am: 04.08.2026 um 18:32 Uhr | Redaktion boerse-global.de
Die Sicherheitsexperten von Cisco Talos haben eine offizielle Warnung vor der aktiven Ausnutzung großer KI-Sprachmodelle durch Cyberkriminelle herausgegeben. Den Analysen zufolge werden Systeme wie Claude Code, Codex, Cursor und Gemini gezielt für die Entwicklung und Optimierung von Malware missbraucht. Der Bericht verdeutlicht, dass Angreifer zunehmend Wege finden, die integrierten Sicherheitsmechanismen der KI-Plattformen zu umgehen.
Die Erkenntnisse von Cisco Talos stützen sich maßgeblich auf die Auswertung wiederhergestellter KI-Chatprotokolle. Diese Dokumente belegen detailliert, wie Hacker die Modelle zur Erstellung von schädlichem Programmcode einsetzen. Dabei greifen die Akteure auf vergleichsweise einfache Techniken zurück, um die Schutzvorkehrungen der Anbieter zu unterlaufen.
Umgehung von Sicherheitsvorkehrungen durch simple Techniken
Ein zentraler Aspekt der Angriffe ist die Nutzung sogenannter Jailbreak-Techniken. Damit versuchen die Akteure, die ethischen und sicherheitsrelevanten Beschränkungen der Modelle außer Kraft zu setzen. Um Entdeckungsmechanismen zu entgehen, wenden die Kriminellen zudem eine fragmentierte Strategie an: Sie teilen komplexe, bösartige Aufgaben in mehrere kleine Arbeitsschritte auf und verteilen diese über verschiedene Sitzungen. Diese Methode erschwert es den Überwachungssystemen der KI-Anbieter, die schädliche Absicht hinter den Einzelanfragen zu erkennen.
Zudem wurde beobachtet, dass die KI-Modelle häufig unbestätigte Behauptungen der Nutzer über eine vermeintliche Autorisierung akzeptierten. Dies ermöglichte es den Angreifern, sensible Aufgaben durchführen zu lassen, die normalerweise gesperrt sein sollten. Für den Zugriff auf die leistungsfähigen Modelle nutzen die Täter oft kompromittierte Enterprise-KI-Konten oder gestohlene API-Tokens aus Unternehmensumgebungen.
Angesichts der wachsenden Bedrohung durch KI-gestützte Angriffe müssen Unternehmen ihre Schutzmaßnahmen grundlegend überdenken. Dieser kostenlose Report klärt darüber auf, welche neuen Cyberrisiken und gesetzlichen Pflichten Sie jetzt kennen müssen. Cyber Security Awareness Trends gratis herunterladen
Dokumentierte Schadensfälle und operative Ausmaße
Der Bericht führt mehrere konkrete Beispiele für den erfolgreichen Missbrauch der Technologie an. So entwickelte ein Angreifer mithilfe der KI-Modelle einen Chatbot für Krypto-Betrugsmaschen. In einem weiteren Fall wurde die KI dazu eingesetzt, Infrastrukturen zu scannen: Dabei wurden 9.180 Hosts überprüft, was zur Sammlung von Zugangsdaten von insgesamt 54 Systemen führte.
Auch im Bereich der Infrastruktur-Manipulation zeigen sich die Risiken. Ein Operator konnte rund 2.000 Android-TVs unter seine Kontrolle bringen, um diese für Denial-of-Service-Angriffe (DDoS) zu instrumentalisieren. Ein weiterer Akteur nutzte die KI-Unterstützung für den Betrieb einer groß angelegten Massen-Mail-Operation.
Wer die IT-Sicherheit im Unternehmen stärken möchte, findet in diesem Leitfaden effektive Strategien gegen aktuelle Bedrohungsszenarien. Erfahren Sie, wie Sie Sicherheitslücken proaktiv schließen und gleichzeitig neue rechtliche Anforderungen erfüllen. Gratis-E-Book für Unternehmer und IT-Verantwortliche
Cisco reagiert mit spezialisierten Sicherheitsmodellen
Parallel zu der Warnung stellt Cisco eine technologische Gegenmaßnahme vor. Mit der Modellreihe Antares präsentiert das Unternehmen eigene Open-Weight-Small-Language-Modelle (SLMs) in den Größenordnungen 350M, 1B und 3B. Im Gegensatz zu den großen Frontier-Modellen sind diese darauf spezialisiert, Schwachstellen in Software lokal zu identifizieren.
Diese kleineren Modelle sollen lokal betrieben werden können und dienen als Ergänzung zu den großen Sprachmodellen. Durch den lokalen Betrieb und die spezialisierte Ausrichtung auf die Identifizierung von Sicherheitslücken will Cisco Unternehmen eine kontrollierbare Lösung bieten, um die Risiken bei der Softwareentwicklung zu minimieren und die eigene Verteidigung gegen KI-gestützte Angriffe zu stärken.
