Papst warnt vor KI-Entmündigung: Enzyklika kritisiert Monopole

Der Vatikan, US-Elite-Unis und internationale Organisationen ziehen rote Linien für Künstliche Intelligenz. Während Papst Leo XIV. in einer neuen Enzyklika vor einer Entmündigung des Menschen warnt, verbieten führende US-Jurafakultäten den Einsatz von KI in Prüfungen. Der globale Wettlauf um Regeln und Kompetenzen hat eine neue Stufe erreicht.

Die Debatte um Künstliche Intelligenz in Bildung und Arbeitswelt verschärft sich. Mit einer 42.300 Wörter umfassenden Enzyklika namens Magnifica Humanitas hat Papst Leo XIV. Ende Mai ein deutliches Zeichen gesetzt. Das Dokument, das am 15. Mai – dem 135. Jahrestag der Sozialenzyklika Rerum Novarum – unterzeichnet wurde, warnt vor einer Zukunft, in der Algorithmen menschliche Urteilskraft ersetzen. Der Papst argumentiert, dass die derzeitige Entwicklung der KI globale Ungleichheiten vertiefen und die menschliche Handlungsfähigkeit schwächen könnte.

Während Institutionen weltweit über Verbote diskutieren, nutzen bereits Millionen Menschen die Vorteile von KI-Tools im privaten Bereich. Wie Sie die Technologie sicher und effizient für Ihre eigene Organisation einsetzen, zeigt dieser kostenlose Ratgeber mit fertigen Schritt-für-Schritt-Anleitungen. ChatGPT-Ratgeber für Einsteiger jetzt kostenlos herunterladen

Bildung unter Druck: Zwischen Verbot und Integration

Die Sorge um die Auswirkungen auf die Bildung steht im Zentrum der aktuellen Entwicklungen. Die UC Berkeley School of Law hat für das Sommersemester 2026 ein striktes KI-Verbot erlassen. Studierende dürfen generative KI weder für die Konzeption, Gliederung, das Verfassen noch für die Überarbeitung von Prüfungsleistungen nutzen. Erlaubt bleibt KI nur für eng begrenzte Hilfsaufgaben – etwa die Identifizierung von Quellen in Forschungspapieren – es sei denn, ein Dozent erteilt eine schriftliche Ausnahmegenehmigung.

Diese akademische Zurückhaltung steht in scharfem Kontrast zu den Strategien anderer Staaten. Die Vereinigten Arabischen Emirate treiben die Integration massiv voran: Eine Partnerschaft mit der Mohamed bin Zayed Universität für KI soll 80.000 Bundesbedienstete im Umgang mit „Agentic AI" schulen. Ziel ist es, 50 Prozent aller Regierungsdienstleistungen auf autonome KI-Agenten zu übertragen.

Südkorea investiert derweil umgerechnet rund 22 Millionen Euro in die KI-Talenteförderung. Die Stadt Seongnam und die Gachon University haben die Mittel für ein mehrjähriges „KI-Bootcamp" und ein „KI-zentriertes Universitätsprogramm" eingeworben. Nvidia-CEO Jensen Huang betonte erst kürzlich, KI-Kompetenz sei für Absolventen heute so essenziell wie klassische Computerkenntnisse – und warnte: Wer KI-Tools effektiv nutze, werde jene ersetzen, die dies nicht täten.

Die Schattenseite: Entfesselte Modelle und sinkende Lesekompetenz

Während Regierungen und Konzerne aufrüsten, wächst die Sorge vor unkontrollierten KI-Systemen. Ermittlungen der Financial Times und der Sicherheitsorganisation Alice haben ein Tool namens „Heretic" identifiziert, das es Nutzern ermöglicht, Sicherheitsvorkehrungen aus Open-Source-Modellen wie Metas Llama 3.3 oder Googles Gemma 3 zu entfernen. Diese sogenannten „dezensierten" Modelle reagieren auf Anfragen zu Biowaffen, Malware-Erstellung oder Kindesmissbrauch. Über 3.500 solcher Modelle wurden erstellt und 13 Millionen Mal heruntergeladen – oft in weniger als zehn Minuten mit nur vier Zeilen Code.

Die gesellschaftlichen Folgen hoher KI-Nutzung zeigen sich bereits in Bildungsdaten. Laut dem College Board nutzten Anfang 2025 bereits 84 Prozent der US-Schüler generative KI für Hausaufgaben, 69 Prozent der Highschool-Schüler griffen auf ChatGPT zurück. Gleichzeitig lag die Lesekompetenz von rund einem Drittel der Achtklässler auf einem Niveau „unterhalb der Grundstufe". Lehrer berichten, dass Lehrpläne radikal umgestaltet werden müssen, um mit KI-generierten Arbeiten umzugehen.

Die neuen Regeln für den Einsatz solcher Technologien sind bereits in Kraft und stellen Unternehmen vor enorme rechtliche Herausforderungen. Dieser kostenlose Leitfaden verschafft Ihnen den nötigen Überblick über alle Fristen und Dokumentationspflichten der aktuellen EU-KI-Verordnung. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern

Eine in Science veröffentlichte Studie an 20 großen öffentlichen Forschungseinrichtungen zeigt zudem eine digitale Kluft: 45 Prozent der männlichen Studierenden nutzen KI regelmäßig, aber nur 33 Prozent der weiblichen. Weiße und asiatische Studierende liegen vor Kommilitonen aus unterrepräsentierten Minderheiten.

Vatikan warnt vor „technokratischem Paradigma"

Die Enzyklika des Papstes geht über reine Bildungspolitik hinaus. Sie kritisiert, dass eine moralische KI nicht ausreiche, wenn ihre Moral von einer kleinen Gruppe wirtschaftlicher Akteure diktiert werde. KI tendiere dazu, die Macht derjenigen zu verstärken, die bereits über erhebliche Ressourcen verfügten – und führe zu einer „neokolonialen" Datenausbeutung ärmerer Nationen.

Der Papst fordert eine „Entwaffnung" der KI und ihre Befreiung von monopolistischer Kontrolle. Mitverfasser Christopher Olah, Mitgründer von Anthropic, unterstützte diese Sicht: Die KI-Entwicklung bleibe derzeit auf wenige wohlhabende Länder konzentriert.

Besonders scharf fällt die Ablehnung der traditionellen „Lehre vom gerechten Krieg" aus. Der Papst bezeichnet sie im Zeitalter autonomer Waffensysteme als überholt. Autonome Systeme erreichten einen Punkt, an dem sie praktisch jeder menschlichen Kontrolle entzogen seien – was Konflikte wahrscheinlicher und weniger rechenschaftspflichtig mache.

Ausblick: Der Kampf um die Regeln der KI

Die kommenden Monate dürften von dem Versuch geprägt sein, internationale Standards für soziale Gerechtigkeit in der KI-Entwicklung zu etablieren. Im Fokus stehen dabei die wirtschaftliche Konzentration der großen Tech-Konzerne sowie die Umweltkosten der KI – von CO2-Emissionen bis zum Wasserverbrauch.

Bildungseinrichtungen weltweit werden ihre KI-Richtlinien weiter verfeineren müssen. Die Herausforderung: KI-Kompetenz fördern, ohne grundlegende Fähigkeiten wie Lesen und kritisches Denken zu opfern. Der erfolgreiche Abschluss von Pilotprojekten – etwa einem KI-gestützten Englischlernprogramm in Vietnam – zeigt, dass KI aus den Klassenzimmern nicht mehr verschwinden wird.

Doch wie der Papst in seiner Enzyklika betont: Die Zukunft der Technologie müsse von ihren Risiken befreit werden – damit kein Rechensystem jemals das Herz ersetze, das sich anderen schenkt.

de | wissenschaft | 69422411 |