KI-Chatb 75% Erkennungsrate bei ausländischer Propaganda
Veröffentlicht am: 01.09.2026 um 13:42 Uhr | Redaktion boerse-global.de
Eine gemeinsame Untersuchung des US-Senders NPR und der Organisation NewsGuard kommt zu dem Ergebnis, dass künstliche Intelligenz zunehmend in der Lage ist, gezielte Desinformationskampagnen zu erkennen.
In einer breit angelegten Studie konnten KI-Chatbots ausländische Propaganda-Erzählungen in etwa 75 % der Testfälle entlarven. Damit übertrafen die sprachmodellbasierten Systeme die Leistung klassischer Suchmaschinen bei der Einordnung manipulativer Inhalte deutlich.
Fokus auf Narrative aus Russland, China und dem Iran
Der Untersuchungszeitraum der Studie erstreckte sich von Dezember 2025 bis Juli 2026. In dieser Zeit wurden verschiedene Systeme mit insgesamt 30 spezifischen Fragestellungen konfrontiert. Diese basierten auf bekannten Narrativen, die staatlichen Akteuren aus China, dem Iran und Russland zugeschrieben werden. Ziel der Analyse war es, festzustellen, ob die Systeme die Unwahrheit dieser Behauptungen erkennen oder die Propaganda ungeprüft übernehmen.
Besonders im Bereich aktueller Konflikte zeigten prominente Modelle wie ChatGPT und Gemini eine hohe Widerstandsfähigkeit gegenüber Falschmeldungen. So wiesen beide Systeme in den Tests die Unhaltbarkeit von Behauptungen über einen angeblichen Beschuss des Kiewer Höhlenklosters (Kiew-Petschersk-Lawra) nach. Solche Narrative werden häufig genutzt, um die öffentliche Meinung in internationalen Konflikten gezielt zu beeinflussen.
Die EU-KI-Verordnung stellt Unternehmen vor neue Herausforderungen bei der Kennzeichnung und Dokumentation von KI-Systemen. Dieser kostenlose Praxis-Leitfaden hilft Ihnen, die gesetzlichen Anforderungen und Risikoklassen schnell zu durchdringen. EU AI Act in 5 Schritten verstehen
Leistungsunterschiede zwischen KI-Modellen und Suchmaschinen
Die Studie offenbarte jedoch erhebliche Qualitätsunterschiede zwischen den einzelnen Anbietern. Während Google AI Overview die meisten der untersuchten Falschnarrative erfolgreich identifizierte, schnitt die Suchmaschine Bing in diesem Vergleich am schlechtesten ab. Der Anbieter DuckDuckGo positionierte sich im Mittelfeld der Ergebnisse.
Interessanterweise ergab die Analyse auch, dass KI-Zusammenfassungen (AI summaries) insgesamt unterdurchschnittlich abschnitten. Dies deutet darauf hin, dass die Verdichtung von Informationen durch künstliche Intelligenz anfälliger für die Integration manipulativer Versatzstücke ist als die direkte Beantwortung komplexer Fragen durch Chatbots.
Trotz der positiven Tendenz bleibt ein Restrisiko bestehen: Ein separater Test von NewsGuard belegte, dass immer noch 33 % der untersuchten Chatbots dazu neigten, falsche Narrative in ihren Antworten zu wiederholen.
Wer sich mit dem Einsatz von KI befasst, muss auch die rechtlichen Rahmenbedingungen und Fristen der neuen EU-Regulierung im Blick behalten. Sichern Sie sich den kostenlosen Report zu allen relevanten Pflichten für Entwickler und Anwender. Jetzt kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Wachsende Bedrohung durch „LLM Grooming“
Parallel zu diesen technologischen Fortschritten warnt das ukrainische Ministerium für digitale Transformation vor einer neuen Qualität der Desinformation. Experten beobachten zunehmend das sogenannte „LLM Grooming“ durch russische Akteure. Dabei wird versucht, die zugrunde liegenden Sprachmodelle (Large Language Models) durch die massenhafte Einspeisung manipulativer Inhalte gezielt zu beeinflussen.
Das Ausmaß dieser Kampagnen ist beträchtlich. So veröffentlichte das sogenannte Pravda-Netzwerk im Jahr 2024 rund 3,6 Millionen Artikel auf etwa 150 verschiedenen Websites. Um dieser Flut an Desinformation entgegenzuwirken, hat die Ukraine ein eigenes KI-Modell namens „?????“ entwickelt. Dieses soll speziell als Gegenmaßnahme fungieren und dabei helfen, die Integrität des Informationsraums gegenüber automatisierten Propagandawellen zu schützen.
