Magnifica Humanitas: Papst Leo XIV. fordert radikale KI-Kehrtwende

„Magnifica Humanitas“ heißt das rund 100-seitige Lehrschreiben, das der Vatikan heute vorgestellt hat. Darin positioniert sich die katholische Kirche erstmals umfassend zur Künstlichen Intelligenz – und fordert eine radikale Kehrtwende.

Seit seiner Wahl im Mai 2025 hat der erste US-amerikanische Papst der Geschichte die KI-Thematik zum Eckpfeiler seines Pontifikats gemacht. Bereits kurz nach seinem Amtsantritt bezeichnete Leo XIV. – bürgerlich Robert Francis Prevost – KI als die größte Herausforderung für die Menschheit. Die nun vorliegende Enzyklika führt diese Gedanken systematisch aus und knüpft an die Tradition der katholischen Soziallehre an, insbesondere an das Erbe seines Namensgebers Leo XIII.

Während der Vatikan eine ethische Kehrtwende fordert, müssen Unternehmen bereits heute konkrete gesetzliche Vorgaben zum Einsatz von Algorithmen erfüllen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Cyberrisiken Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken jetzt verstehen

Die Forderung nach einer ethischen „Entwaffnung“

Ein zentrales Motiv des Dokuments: Die KI müsse von einer Logik des Wettbewerbs und der Dominanz befreit werden. Leo XIV. warnt davor, KI-Systeme nur unter geopolitischen oder kommerziellen Gesichtspunkten zu entwickeln. Besonders deutlich äußert er sich zum Einsatz in bewaffneten Konflikten.

Es sei moralisch nicht zulässig, tödliche oder irreversible Entscheidungen an autonome Systeme zu delegieren, heißt es in dem Lehrschreiben. Der Schutz der menschlichen Würde verlange, dass die Verantwortung für Gewalt stets in menschlicher Hand bleibe. Der Pontifex warnt vor einer „Spirale der Vernichtung“ durch ungebremste militärische Aufrüstung im Bereich der Algorithmen.

Dabei unterscheidet die Enzyklika scharf zwischen menschlichem Bewusstsein und maschineller Berechnung: KI-Systeme machten keine Erfahrungen, besäßen keinen Körper und könnten weder Freude noch Schmerz empfinden. Diese Differenzierung dient als Grundlage für die Forderung, dass die Letztentscheidungsgewalt niemals Maschinen übertragen werden dürfe.

Kritik an der „Kultur der Macht“

Neben militärischen Aspekten setzt sich das Dokument intensiv mit den ökonomischen Strukturen des Silicon Valley auseinander. Der Papst kritisiert eine „Kultur der Macht“, bei der die Kontrolle über digitale Infrastrukturen bei wenigen privaten Akteuren konzentriert sei. Diese Machtkonzentration entziehe sich der öffentlichen Aufsicht.

Leo XIV. fordert robuste rechtliche Rahmenbedingungen und eine unabhängige Aufsicht über KI-Unternehmen. Ein Kernpunkt: das Eigentum an Daten. In Anlehnung an das Prinzip der „universellen Bestimmung der Güter“ postuliert der Papst, dass Patente, Algorithmen und Datenplattformen dem Gemeinwohl dienen müssten.

Das Dokument spricht sogar von „neuen Formen der Sklaverei“. Die digitale Ökonomie beruhe auf Ausbeutungsmechanismen – von der Extraktion seltener Erden unter prekären Bedingungen bis zum Training von Modellen durch unterbezahlte Arbeitskräfte. Der Papst nutzt das Lehrschreiben für eine historische Geste: Er bittet um Vergebung für die Verzögerungen der Kirche bei der Verurteilung der historischen Sklaverei und zieht eine direkte Linie zu heutigen digitalen Abhängigkeiten.

Die vom Papst geforderten rechtlichen Rahmenbedingungen sind mit dem EU AI Act bereits in Kraft getreten und bringen strikte Dokumentationspflichten für Firmen mit sich. Ein kostenloser Leitfaden zeigt Ihnen die 5 wichtigsten Schritte, um die neuen Anforderungen an Risikoklassen und Fristen sofort umzusetzen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen

Der Vergleich mit der Industriellen Revolution

Analysten sehen in „Magnifica Humanitas“ eine moderne Entsprechung zur Enzyklika „Rerum Novarum“ von 1891. Damals reagierte Papst Leo XIII. auf die soziale Frage der Industriellen Revolution. Sein Nachfolger positioniert sich nun zur „kognitiv-industriellen Revolution“. Der Papst warnt vor einer Spaltung der Gesellschaft in eine technologische Elite und „Menschen zweiter Klasse“.

Das Dokument unterstreicht: Technologische Innovation sei niemals neutral, sondern spiegle die Interessen ihrer Schöpfer. Verantwortung müsse bereits in der Designphase verankert werden. Es reiche nicht aus, ethische Prinzipien nachträglich auf existierende Modelle anzuwenden.

Interessant: Die Präsentation wurde von Vertretern der Tech-Industrie begleitet. Unter den Anwesenden im Vatikan befand sich Christopher Olah, ein Mitbegründer des KI-Unternehmens Anthropic. Die Einbeziehung solcher Akteure ist Teil einer langfristigen Strategie, die bereits 2020 mit dem „Rome Call for AI Ethics“ begann.

Institutionelle Konsequenzen

Die Warnungen des Papstes bleiben nicht auf moralischer Ebene. Bereits am 16. Mai gab der Vatikan die Einrichtung einer neuen inter-dikasteriellen Kommission für Künstliche Intelligenz bekannt. Das Gremium soll die Aktivitäten des Heiligen Stuhls koordinieren und den Dialog mit Wissenschaft und Wirtschaft verstetigen.

Die Päpstliche Akademie für Theologie hat zudem ein Observatorium ins Leben gerufen, das die Auswirkungen digitaler Technologien auf Umwelt und menschliches Miteinander untersucht. Besonders thematisiert wird die psychische Gesundheit junger Menschen, die durch den Druck digitaler Performanz gefährdet sei.

In seinem Ausblick mahnt Leo XIV., die Menschheit dürfe sich nicht der Versuchung hingeben, die Probleme als zu groß zu betrachten. Er verwendet das biblische Bild des Turmbaus zu Babel, um vor menschlicher Hybris zu warnen. Die Enzyklika fordert eine politische und soziale Erneuerung, die technischen Fortschritt dort entschleunigt, wo er den sozialen Frieden gefährdet – und dort fördert, wo er der Heilung von Krankheiten und dem Schutz der Umwelt dient.

Mit diesem Dokument hat Leo XIV. eine moralische Landkarte für das 21. Jahrhundert entworfen. Für die weltweit rund 1,4 Milliarden Katholiken, aber auch für die internationale Politik, dürfte „Magnifica Humanitas“ in den kommenden Jahren zum zentralen Bezugspunkt in der Debatte um die Regulierung von KI werden.

de | wissenschaft | 69416572 |