Papst Leo XIV. hat in seiner ersten eigenen Enzyklika strenge Richtlinien für den Umgang mit Künstlicher Intelligenz (KI) verlangt. Nach einem Jahr im Amt warnte das Oberhaupt von weltweit 1,4 Milliarden Katholiken in dem Schreiben vor zahlreichen Gefahren, die die neue Technologie für das menschliche Zusammenleben bedeute. Er sieht aber auch Chancen. Die mehr als 100 Seiten lange Abhandlung trägt den Titel "Magnifica Humanitas" (Großartige Menschheit).
Die erste Enzyklika in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat. Solche "Rundschreiben" - so die wörtliche Bedeutung - sollen Gläubigen rund um die Welt einen moralischen Kompass geben. Als Nachfolger des verstorbenen Papstes Franziskus ist Leo seit Mai vergangenen Jahres im Amt. Er ist der erste US-Amerikaner an der Spitze der katholischen Weltkirche und mit seinen 70 Jahren ein verhältnismäßig junger Papst.
"Über die Bewahrung des Menschen im Zeitalter der KI"
Das Schreiben trägt den Untertitel "Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz". Leo betont darin, dass KI in verschiedenen Bereichen eine "wertvolle Hilfe" sein könne. Vor allem warnt er jedoch vor deren Risiken - beispielsweise, dass nur wenige Menschen mit jetzt schon viel Besitz davon profitieren. "Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen."
Deshalb sei es "unerlässlich, dass der Einsatz von KI - insbesondere, wenn es um öffentliche Güter und Grundrechte geht - von klaren Kriterien und wirksamen Kontrollen begleitet wird". Auch der Besitz der Nutzerdaten müsse reguliert werden. Mehrfach betont der Papst, dass KI auf Moral und menschliche Werte ausgerichtet sein müsse. Allerdings nütze auch das nichts, "wenn diese Moral von einigen wenigen bestimmt wird". Vielfach wird das als Kritik an Tech-Milliardären in den USA verstanden.
Autonome Waffensysteme sollen nicht entscheiden dürfen
Besonders kritisch äußerte sich der Pontifex über die Auswirkungen von Künstlicher Intelligenz auf Konflikte. Mit KI-gestützten autonomen Waffensystemen seien Kriege "durchführbarer" gemacht worden, heißt es in dem Schreiben. Die KI müsse jedoch "entwaffnet" werden. Keinesfalls dürften Maschinen allein über Leben und Tod entscheiden. Wörtlich heißt es: "Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen."
Bei der Vorstellung seiner ersten Enzyklika im Vatikan war Leo XIV. selbst dabei - ein Novum für die Kirche. Neben hochrangigen Kardinälen und Theologen war auch der Mitgründer des KI-Konzerns Anthropic, der Tech-Milliardär Chris Olah, anwesend. Das Unternehmen aus den USA liegt im Streit mit Präsident Donald Trump, weil es seine KI-Modelle nicht für autonome Waffensysteme zur Verfügung stellen will. Trump hatte sowohl Anthropic als auch den Papst zuletzt mehrfach kritisiert.
"Bleiben wir der Wahrheit treu"
In seinem Lehrschreiben warnt Leo auch davor, auf KI-Lügen und -Fälschungen hereinzufallen: "Bleiben wir der Wahrheit treu!" Durch die "unaufhörlichen Flüsse von Informationen, Meinungen und Bildern" mit immer raffinierteren Algorithmen könnten Entscheidungen und Vorlieben leicht beeinflusst werden. Auf dem Höhepunkt seines Streits mit dem Papst hatte Trump ein KI-generiertes Bild veröffentlicht, das ihn selbst als Jesus zeigte. Erwähnt wird der US-Präsident in der Enzyklika nicht.
Mehrfach stellt der Papst in dem Text heraus, dass Mensch beziehungsweise das Menschliche trotz aller technologischen Fortschritte an erster Stelle stehen müsse. "Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt."
Papst nimmt Bezug auf Vorgänger Leo XIII.
Die Enzyklika trägt das Datum 15. Mai. An diesem Tag war es genau 135 Jahre her, dass Leos Namensvetter Leo XIII. seine Enzyklika "Rerum novarum" ("Über die neuen Dinge") veröffentlichte. Damit legte der "Arbeiterpapst" die Grundlagen für die katholische Soziallehre infolge der industriellen Revolution. Manche Experten bezeichnen das neue Schreiben jetzt schon als "KI-Sozialenzyklika".
Solche Lehrschreiben von Päpsten gibt es seit dem 18. Jahrhundert. Benannt sind sie in der Regel nach ihren ersten zwei oder drei Wörtern. Leos "Magnifica Humanitas" beginnt mit dem Satz: "Die großartige Menschheit, geschaffen von Gott, steht heute vor einer entscheidenden Wahl: Entweder errichtet sie einen neuen Turm zu Babel oder sie erbaut die Stadt, in der Gott und die Menschheit gemeinsam wohnen." Das biblische Gleichnis vom Turmbau zu Babel gilt als Sinnbild für menschlichen Hochmut und Größenwahn.
Der Namensvetter des heutigen Papstes, Leo XIII., veröffentlichte in seiner Amtszeit mehr als 90 Enzykliken. Auf ihn beruft sich der Pontifex aus den USA immer wieder. Viele erwarten deshalb, dass er ebenfalls viele solche Lehrschreiben verfassen wird - auch, weil erwartet wird, dass Leo lange im Amt sein wird. Papst Franziskus, sein unmittelbarer Vorgänger, brachte in zwölf Amtsjahren vier Enzykliken heraus.