Papst warnt vor KI-Macht: Neue Enzyklika kritisiert digitale Sklaverei

Papst Leo XIV. hat mit seiner ersten Enzyklika „Magnifica Humanitas" einen scharfen Angriff auf die ungebremste Entwicklung Künstlicher Intelligenz gestartet. Das am heutigen Montag veröffentlichte, über 40.000 Wörter umfassende Dokument zeichnet ein düsteres Bild einer Gesellschaft, in der Profitgier den Menschen auf eine bloße Datenquelle reduziert. Der Papst spricht von einer modernen „Turm-zu-Babel"-Situation und warnt vor einer neuen Form der „digitalen Sklaverei".

Die EU-KI-Verordnung stellt Unternehmen bereits vor konkrete Aufgaben, um ethische und rechtliche Standards zu wahren. Dieser kostenlose Leitfaden hilft Ihnen, die neuen Pflichten und Risikoklassen des AI Acts sicher zu verstehen und umzusetzen. EU AI Act in 5 Schritten verstehen

Die „Babel-Syndrom"-These

Im Zentrum der Kritik steht das sogenannte „Babel-Syndrom": die Versuchung der Menschheit, eine Welt ohne spirituelle und moralische Grundlagen zu errichten. Stattdessen dominieren technische Effizienz und privater Gewinn. Die Konzentration der KI-Macht in den Händen weniger privater Akteure führe zu einer Gesellschaft, die von „digitalen Aufmerksamkeitsökonomien" und sozialer Kontrolle durch Datenprofile beherrscht werde.

Der Papst warnt eindringlich davor, das Gewissen an Maschinen auszulagern. Menschliches Urteilsvermögen und moralische Verantwortung ließen sich nicht an Algorithmen delegieren. In einer ungewöhnlichen kulturellen Anspielung griff er dabei auf die Werke von J.R.R. Tolkien zurück, um die korrumpierende Wirkung absoluter Macht in Kombination mit fortschrittlicher Technologie zu veranschaulichen.

Wirtschaftliche Verwerfungen und Massenarbeitslosigkeit

Die wirtschaftlichen Folgen der KI-Revolution nehmen einen zentralen Platz in der Enzyklika ein. Der Papst bezeichnet die drohende Massenarbeitslosigkeit durch Automatisierung als „schweres Übel" und „soziale Katastrophe". Aktuelle Umfragen unter Unternehmensführern bestätigen diese Sorge: 99 Prozent der Vorstandsvorsitzenden erwarten innerhalb der nächsten zwei Jahre einen Stellen abbau durch KI.

Als Gegenmittel fordert der Papst, Daten als „Gemeingut" zu behandeln – nicht als Privateigentum weniger Superreicher. Die aktuelle KI-Ökonomie gleiche historischen Ausbeutungssystemen. Nötig seien staatliche Eingriffe, um die Vorteile des technologischen Fortschritts gerechter zu verteilen. Dazu gehöre auch eine „digitale Nüchternheit" in der Bildung, um jüngere Generationen vor den negativen Folgen der digitalen Aufmerksamkeitsökonomie zu schützen.

Autonome Waffen und das Ende der „gerechten Kriege"

Einer der provokantesten Abschnitte befasst sich mit militärischen Anwendungen der KI. Der Papst erklärt die „Theorie des gerechten Krieges", ein jahrhundertealter Pfeiler der katholischen Friedenslehre, im Zeitalter autonomer Waffen für überholt. Kein Algorithmus könne einen Krieg moralisch vertretbar machen.

Diese Warnung kommt zu einem Zeitpunkt, da die globale Sicherheitslage angespannt bleibt. Erst im Frühjahr war der Papst mit der US-Regierung über Konflikte im Nahen Osten aneinandergeraten. Bei seiner Reise im April erklärte er, er fürchte keinen politischen Druck aus Washington.

Regulatorisches Vakuum und der Ruf nach Ethik

Die Veröffentlichung der Enzyklika fällt in eine Phase der regulatorischen Lähmung. In Washington ist die KI-Politik ins Stocken geraten. Eine geplante Executive Order zu fortgeschrittener KI scheiterte an fehlender Zustimmung. Die Politik ist gespalten zwischen denen, die auf einen freien Markt setzen, und jenen, die Sicherheit priorisieren.

Der Papst versucht, dieses Vakuum mit einem moralischen Rahmen zu füllen. Indem er das Dokument am 15. Mai unterzeichnete – dem 135. Jahrestag von „Rerum Novarum", einem wegweisenden Dokument zu Kapital und Arbeit – stellt er die KI-Revolution explizit in die Tradition der sozialen Herausforderungen des Industriezeitalters. Der Vatikan positioniert sich als Vermittler zwischen den „superreichen Wenigen", die die Technologie kontrollieren, und den Milliarden Menschen, die von ihrer Anwendung betroffen sind.

Während die Politik um Lösungen ringt, schaffen neue Gesetze wie der EU AI Act bereits Fakten für die Wirtschaft. Erfahren Sie in diesem kostenlosen Experten-Report, welche KI-Systeme als Hochrisiko gelten und wie Sie empfindliche Strafen proaktiv vermeiden. Kostenlosen Umsetzungsleitfaden zum AI Act sichern

Ausblick: Dialog zwischen Vatikan und Silicon Valley

Die neue vatikanische KI-Kommission wird nun daran arbeiten, die moralischen Vorgaben in konkrete politische Empfehlungen zu übersetzen. Die Forderung nach Daten als Gemeingut könnte die Grundlage für neue internationale Abkommen zu Datensouveränität und Privatsphäre liefern.

Bemerkenswert war die Präsentation der Enzyklika: Chris Olah, Mitbegründer des KI-Sicherheitsunternehmens Anthropic, trat gemeinsam mit vatikanischen Vertretern auf. Er hatte in den vergangenen Monaten mit dem Vatikan zusammengearbeitet, um die technischen Nuancen fortgeschrittener Modelle zu erklären. Dies deutet darauf hin, dass zumindest Teile der Tech-Industrie nach einem ethischen Kompass suchen – oder zumindest nach einem tieferen Verständnis der Grenzen, die die religiöse Welt nun um die digitale Grenze zieht.

Ob die Warnungen des Papstes zu einer Änderung des Unternehmensverhaltens oder der staatlichen Regulierung führen werden, bleibt abzuwarten. Das „Babel-Syndrom" prägt weiterhin die technologische Landschaft des Jahres 2026.

de | wissenschaft | 69417775 |