"Die KI muss entwaffnet werden", sagt Papst Leo XIV.
Das Oberhaupt der katholischen Kirche widmet künstlicher Intelligenz einen 42.000 Wörter umfassenden Text. Ein weltferner Zwischenruf zum allgegenwärtigen Tanz um das goldene Kalb – oder der Kommentar, der die Entwicklung verändern wird?
Worum geht es? Am Pfingstmontag veröffentlichte Papst Leo XIV. seine erste Enzyklika "Magnifica humanitas". Thema ist die ethische und gesellschaftsverträgliche Gestaltung von KI. Zentral ist dabei die Versöhnung der globalen Herausforderungen der digitalen Transformation mit der Bewahrung der menschlichen Würde.
Was sind die zentralen Thesen? Der Papst betont, dass Technologie niemals neutral sein kann, sondern immer die Interessen ihrer Schöpfer*innen widerspiegelt. Wenn die Effizienz zum alleinigen Maßstab erheben, drohe eine Sicht auf den Menschen als immer weiter zu optimierendes Projekt. Zudem bestehe die Gefahr einer massiven Macht- und Wohlstandskonzentration in den Händen weniger Tech-Milliardäre, was Demokratien schwächen und Ungleichheit verschärfen könne.
Was hält der Papst von KI? Papst Leo XIV. verdammt die Technologie nicht pauschal. Er würdigt KI als "wertvolles Hilfsmittel" mit dem Potenzial, Krankheiten zu heilen, Bildung zu fördern und die Umwelt zu schützen. Gleichzeitig warnt er eindringlich vor den Risiken: digitaler Ausbeutung, Desinformation ("Fake News") und dem Kontrollverlust durch Algorithmen.
Er zieht außerdem eine direkte Parallele zur Industriellen Revolution. Das Schreiben wurde bewusst zum 135. Jahrestag der Enzyklika "Rerum Novarum" von Leo XIII. verfasst. Der reagierte damals auf das Elend der Arbeiterklasse. KI wird vom Papst heute als die neue industrielle Umwälzung eingeordnet, die ähnlich fundamentale Schutzmaßnahmen erfordert.
Gibt es biblische Bezüge? Gleich im ersten Satz. Dort verweist die Enzyklika auf die Geschichte vom Turm zu Babel. Die Menschheit stehe vor der Wahl, entweder einen neuen, hochmütigen Turm zu Babel zu errichten oder eine von Gemeinschaft geprägte Stadt Gottes zu bauen.
Was fordert der Papst? Zentral ist der Ruf, die KI ökonomisch und militärisch zu "entwaffnen". Es bedarf laut Leo XIV. strenger staatlicher und internationaler Regulierung sowie einer transparenten Verwaltung von Nutzer*innen-Daten.
Zudem fordert er ein striktes Verbot, irreversible Entscheidungen über Leben und Tod – wie bei autonomen Waffensystemen – an Maschinen zu übertragen. Historisch bemerkenswert: Der Papst nutzt das Dokument, um sich für die einstige Billigung der Sklaverei durch den Vatikan zu entschuldigen.
An Entwickler*innen appelliert Leo XIV, moralische und ethische Prinzipien bereits beim Design von KI-Modellen zu verankern. Eine Entschleunigung der KI-Entwicklung – wie sie ja auch schon aus der Branche heraus gefordert wurde – sei keine Fortschrittsfeindlichkeit, sondern Fürsorge.
KI-Nutzer*innen ruft er auf, die Verantwortung für Mitmenschlichkeit und soziale Begegnungen nicht an Algorithmen abzutreten und aktiv für die Wahrheit und den Erhalt des gesellschaftlichen Vertrauens einzutreten.
Wie reagiert das Silicon Valley? Dort zeigt man sich gesprächsbereit und defensiv zugleich. Bereits im Vorfeld gab es Treffen im Vatikan. Bei der offiziellen Vorstellung saß mit Anthropic-Mitgründer Christopher Olah sogar ein prominenter Vertreter der Tech-Branche auf dem Podium, was eine teilweise Offenheit für ethische Leitlinien signalisiert, wenngleich die geforderten harten Kontrollen der Tech-Macht bei den potenziell Betroffenen auf heftige Gegenwehr stoßen dürften.
Welchen Impact wird die Enzyklika haben? "Magnifica Humanitas" reiht sich in die großen Sozialenzykliken der Kirche (wie 2015 "Laudato si’" von Papst Franziskus zu Umwelt- und Klimafragen) ein. Indem der Papst KI zum Kernthema macht, positioniert sich der Vatikan als globaler moralischer Akteur in einer der wichtigsten Zukunftsfragen der Menschheit. Der Text dürfte in der internationalen Debatten über Tech-Regulierung in den kommenden Jahre eine gewisse Rolle spielen.
Wie wirkmächtig die Schrift tatsächlich ist, dürfte vor allem davon abhängen, ob sich Menschen mit politischem oder unternehmerischem Einfluss in ihrem Denken von ihr beeinflussen lassen. Mit dem potenziellen Trump-Nachfolger und zum Katholizismus konvertierten JD Vance und Tech-Strippenzieher Peter Thiel, dem eine wachsende Nähe zu konservativ-katholischen Kreisen nachgesagt wird, gibt es zumindest zwei Kandidaten – sofern sie sich am Ende auch als gute Katholiken erweisen und dem Papstwort unterwerfen.
.gif?upscale=true&width=1120&upscale=true&name=OMR26_Late-Bird_Banderole_new%20(25).gif)
