KI-Sprachmodelle: Saarland fördert Manipulationsforschung mit 160.000 Euro

Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) und die Landesmedienanstalt Saarland (LMS) haben das gemeinsame Forschungsprojekt PABeLA-II gestartet. Die Initiative widmet sich der gezielten Untersuchung von Manipulationsrisiken, die durch den Einsatz moderner KI-basierter Sprachmodelle entstehen.

Wie die Universität des Saarlandes in einem Bericht vom 1. November 2026 mitteilte, soll das Vorhaben grundlegende Erkenntnisse darüber liefern, wie sich automatisierte Textgeneratoren auf die Medienlandschaft und den demokratischen Diskurs auswirken.

Einfluss auf Journalismus und Meinungsbildung im Fokus

Im Zentrum von PABeLA-II stehen die konkreten Auswirkungen von großen Sprachmodellen auf redaktionelle Prozesse und die öffentliche Meinungsbildung. Ziel der Projektpartner ist es, potenzielle Gefahren durch irreführende oder frei erfundene Angaben sichtbar und messbar zu machen.

Wenn generative Sprachmodelle falsche Tatsachenbehauptungen als verlässliche Fakten ausgeben oder Quellen simulieren, birgt dies erhebliche Risiken für die Glaubwürdigkeit medialer Angebote.

Die rechtliche Einordnung solcher KI-Systeme und deren Risikoklassen ist seit Kurzem europaweit verbindlich geregelt. Dieser kostenlose Leitfaden bietet Unternehmen und Verantwortlichen einen kompakten Überblick über die notwendige Risikodokumentation und alle geltenden Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Um diesen Herausforderungen systematisch zu begegnen, wird im Rahmen des Projekts ein eigens konzipierter, repräsentativer Testdatensatz aufgebaut. Anhand dieses Materials untersuchen die beteiligten Wissenschaftler und Medienexperten detailliert, ob von KI-Systemen referenzierte Quellen in der Realität überhaupt existieren und ob deren Inhalte inhaltlich zutreffend wiedergegeben werden.

Ein weiterer Schwerpunkt der Überprüfung liegt auf der Ausgewogenheit: Das Projektteam analysiert, inwieweit die automatisiert erzeugten Texte unterschiedliche Perspektiven zu relevanten gesellschaftlichen Themen neutral abbilden oder ob Verzerrungen vorliegen.

Finanzierung und Nutzen für die Medienregulierung

Die Finanzierung des Projekts wird durch das Land Saarland getragen. Die Staatskanzlei des Saarlandes stellt gemeinsam mit dem Ministerium für Wirtschaft, Innovation, Digitales und Energie Fördermittel in Höhe von insgesamt 160.000 Euro für die Durchführung der Forschungsarbeit bereit.

Neben der inhaltlichen Manipulation bringen neue KI-Technologien auch veränderte Anforderungen an die allgemeine IT-Sicherheit in Unternehmen mit sich. Wie Sie neue gesetzliche Pflichten erfüllen und Ihre Infrastruktur proaktiv schützen, erfahren Sie in diesem kostenfreien Report. Gratis-E-Book enthüllt, wie Sie Sicherheitslücken schließen und gleichzeitig neue gesetzliche Anforderungen erfüllen

PABeLA-II ist auf eine Projektlaufzeit bis April 2027 angelegt. Die im Rahmen der wissenschaftlichen Analysen gewonnenen Daten und Auswertungen sollen nicht nur die theoretische Forschung voranbringen, sondern handfeste Grundlagen für die praktische Arbeit von Medienaufsicht und Medienpolitik liefern.

Indem Regulierungsbehörden fundierte Kriterien an die Hand bekommen, um automatisierte Informationsströme und Manipulationsmuster verlässlich einzustufen, soll die Initiative einen Beitrag zur Stärkung der Informationssicherheit und der Medienkompetenz in einem zunehmend KI-geprägten Umfeld leisten.