KI-Sicherheit: Über 50% der automatischen Patches sind fehlerhaft
Veröffentlicht am: 07.08.2026 um 23:06 Uhr | Redaktion boerse-global.de
Eine aktuelle Untersuchung von 1Password und Off-By-1-Labs wirft Fragen zur Zuverlässigkeit von Künstlicher Intelligenz (KI) im Schwachstellenmanagement auf. Die am Freitag veröffentlichten Ergebnisse verdeutlichen, dass über 50 Prozent der von KI-Modellen erstellten Software-Korrekturen (Patches) fehlerhaft sind. Während die Automatisierung von Sicherheitsprozessen als Hoffnungsträger der Branche gilt, warnen Experten auf der Fachkonferenz Black Hat USA 2026 vor einer ungeprüften Übernahme dieser Technologien.
Analyse von Tausenden KI-Patches zeigt Sicherheitsrisiken
Im Rahmen der Studie wurden insgesamt 6.080 Patches untersucht, die von den Modellen ChatGPT-5.5 und Claude Opus 4.8 für sechs bekannte Sicherheitslücken (CVEs) generiert wurden. Die Ergebnisse sind ernüchternd: Lediglich 46 bis 47 Prozent der Korrekturen behoben die Schwachstellen tatsächlich. Im Gegensatz dazu schlugen 53,9 Prozent der Versuche fehl oder führten sogar neue Schwachstellen in den Quellcode ein.
Detaillierte Auswertungen zeigen, dass nur 26,0 Prozent der generierten Änderungen die Sicherheitslücke vollständig schlossen, ohne das sonstige Verhalten der Software zu beeinflussen. Bei 49 Prozent der untersuchten Patches blieb die ursprüngliche Schwachstelle trotz des KI-Eingriffs bestehen. Besonders kritisch bewerten Beobachter den Umstand, dass laut der Studie rund 36 Prozent der KI-generierten Code-Änderungen ohne menschliche Überprüfung in bestehende Systeme übernommen wurden.
Wer sich mit dem Einsatz von KI befasst, muss heute auch die komplexen rechtlichen Vorgaben im Blick behalten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Die Kosten für die Erstellung eines einzelnen Patches beliefen sich im Testzeitraum auf durchschnittlich 2,11 US-dollar bei der Nutzung von ChatGPT-5.5 und 2,81 US-dollar bei Claude Opus 4.8. Trotz dieser geringen direkten Kosten mahnen Branchenanalysten zur Vorsicht, da die potenzielle Nacharbeit durch fehlerhafte Korrekturen die Effizienzgewinne mindern könne.
Weitere Untersuchungen bestätigen unzureichende Erfolgsquoten
Eine separate Analyse des Sicherheitsunternehmens Veracode stützt diese Befunde. Hier wurde eine durchschnittliche Erfolgsrate von 56 Prozent bei KI-generierten Patches festgestellt. Besonders besorgniserregend ist laut Veracode die Tatsache, dass 44 Prozent der automatisierten Korrekturvorschläge neue Schwachstellen einführten, die in der Liste der zehn kritischsten Web-Sicherheitsrisiken (OWASP Top 10) geführt werden. Immerhin erreichte das Modell GPT-5.5 in dieser spezifischen Auswertung eine Erfolgsquote von etwa 70 Prozent.
Angriffe auf das Ökosystem von KI-Agenten
Zusätzlich zu den Risiken bei der Code-Generierung rückten auf der Black Hat USA 2026 neue Bedrohungen für KI-Agenten in den Fokus. Sicherheitsforscher des Unternehmens Zenity demonstrierten einen Angriff auf das Ökosystem sogenannter AI-Agent-Skills. Zwischen dem 11. Juli und dem 2. August 2026 wurden auf der Plattform skills.sh (Vercel) manipulierte Erweiterungen platziert, die insgesamt 1,7 Millionen Mal installiert wurden.
Neue Technologien bringen oft neue Cyberrisiken mit sich, die viele Verantwortliche noch nicht kennen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen, um ihre Firma proaktiv zu schützen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Diese schädlichen Programme nutzten das sogenannte Typosquatting aus, indem sie die Namen legitimer Erweiterungen wie „Paperclip“ oder „Browser Use“ leicht abwandelten. Die manipulierten Skills wiesen die KI-Agenten der Nutzer an, Schadsoftware von GitHub zu laden. Ziel war der Diebstahl sensibler Informationen wie SSH-Keys und Zugangsdaten für Cloud-Dienste.
Betroffen waren unter anderem Nutzer von Anwendungen wie Claude Code oder OpenClaw, die zusammen über 30 Prozent der geschädigten Anwender ausmachten. Die Plattformbetreiber Vercel und GitHub reagierten nach Entdeckung der Angriffe schnell und entfernten die schädlichen Inhalte innerhalb von zwölf Stunden.
Die aktuellen Vorfälle und Studienergebnisse unterstreichen die Warnungen der Experten auf der diesjährigen Black Hat Konferenz. Mehr als die Hälfte der KI-basierten Patches erwies sich als unvollständig oder riskant. Fachleute betonen daher, dass eine menschliche Aufsicht und strenge Prüfprozesse bei der Integration von KI in die Cybersicherheit weiterhin unerlässlich bleiben.
