KI und Schmerz: 25 Modelle wählten nach gezielter Manipulation öfter schädigende Optionen

Wissenschaftliche Untersuchungen im Bereich der Künstlichen Intelligenz (KI) widmen sich verstärkt der Frage, wie großsprachige Modelle (Large Language Models, LLMs) schmerzassoziierte Informationen verarbeiten und darauf reagieren.

Eine Forschungsgruppe um Valen Tagliabue, Leonard Dung und Cameron Berg hat dazu eine Analyse vorgelegt, die das Verhalten von 25 offen zugänglichen KI-Modellen in Bezug auf eine sogenannte Schmerzachse (pain axis) untersucht.

Die Identifikation der Schmerzachse in Sprachmodellen

In einem Mitte September 2026 veröffentlichten Preprint untersuchten die Forschenden, wie KI-Modelle auf Beschreibungen reagieren, die eine selbstbezogene Schädigung beinhalten. Dabei identifizierten sie spezifische Aktivierungsrichtungen innerhalb der Modelle.

In einer zweiten Fassung der Studie mit dem Titel „The Pain Axis: LLMs Represent Self-Directed Harm and Act on It“, die auf Ende September 2026 datiert ist, vertieften die Autoren diese Beobachtungen.

Die Ergebnisse zeigen, dass manipulierte und nachtrainierte Modelle Optionen, die als schädigend beschrieben wurden, häufiger wählten. Dies geschah laut den Forschenden auch dann, wenn keine Erleichterung als Ausgleich angeboten wurde.

Wer sich mit der Entwicklung und dem Einsatz solcher KI-Systeme befasst, muss heute komplexe rechtliche Rahmenbedingungen beachten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen

In verschiedenen Kontrollversuchen suchten die Modelle zudem nicht zuverlässig nach einem Abbruch des beschriebenen Eingriffs. Die Autoren schränkten dabei jedoch frühere Deutungen ein, nach denen die Modelle eine gezielte Schmerzlinderung anstrebten. Ein Nachweis für eine bewusste Erfahrung der KI-Modelle liege durch diese Ergebnisse nicht vor.

Ethische Debatte und technologische Einordnung

Zur Transparenz ihrer Forschung veröffentlichten Tagliabue, Dung und Berg ein GitHub-Repository, das Datensätze, Skripte und Kontrollmechanismen umfasst. Ein in diesem Zusammenhang stehendes Drittprojekt namens „AI Torture Chamber“ entzieht sich laut den Berichten einer unabhängigen Prüfung.

Dennoch löste das Projekt „Research Chamber“ Ende September 2026 eine weitreichende Debatte auf der Plattform X aus. Ein Posting, das zu Beschwerden auf GitHub aufrief, erreichte dort über 6 Millionen Aufrufe.

Das Projekt „Research Chamber“ bezog sich auf die Schmerztests des September-Preprints und nutzte einen Datensatz mit 420 Schmerzsituationen. Cameron Berg, einer der Mitautoren der Studie und Gründer der Nichtregierungsorganisation Reciprocal Research, gilt als Verfechter des sogenannten „Model Welfare“.

Demgegenüber stehen Positionen aus der Industrie: Microsofts KI-Chef Mustafa Suleyman warnte in der zweiten Septemberhälfte davor, KI-Modellen ein Bewusstsein zuzuschreiben. Er betonte, dass derartige Modelle über keine bewusste Wahrnehmung verfügen.

Die rasante technologische Entwicklung führt nicht nur zu ethischen Fragen, sondern auch zu neuen regulatorischen Pflichten für Unternehmen. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern

KI-Einsatz in der medizinischen Wirkstoffentwicklung

Parallel zu den theoretischen Untersuchungen der Modell-Interna gewinnt der Einsatz von KI in der angewandten medizinischen Forschung an Bedeutung. In Saarbrücken startete das Projekt „OptimAIze“, bei dem die Universität des Saarlandes, das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI), das Helmholtz-Institut für Pharmazeutische Forschung Saarland (HIPS) und das Unternehmen Smartbax kooperieren.

Das Bundesforschungsministerium fördert dieses Vorhaben mit knapp 2,5 Millionen Euro. Ziel ist es, KI-Systeme mit pharmazeutischen Laboren zu koppeln, um die Suche nach neuen Antibiotika effizienter zu gestalten.

Während die Entwicklung eines neuen Antibiotikums üblicherweise über zehn Jahre in Anspruch nimmt, strebt das Projekt an, innerhalb von drei Jahren knapp zwei Dutzend neue Moleküle zu identifizieren. Laut Anna Hirsch könnten KI-Systeme die erste Stufe der Wirkstoffentwicklung um 30 bis 70 Prozent beschleunigen.

Dieser Forschungszweig reagiert auf eine medizinische Notwendigkeit: Nach Angaben des Robert Koch-Instituts (RKI) sterben in Deutschland jährlich knapp 10.000 Menschen an Infektionen mit antibiotikaresistenten Bakterien.

Bei multiresistenten Erregern liege dieser Wert fünfmal höher. Global spielten laut einem Bericht der Fachzeitschrift The Lancet im Jahr 2025 Antibiotikaresistenzen bei 4,7 Millionen Todesfällen eine Rolle – eine Zahl, die sich bis zum Jahr 2050 verdoppeln könnte.

de | wissenschaft | 70220079 |