Papst Leo XIV. befasst sich in seinem ersten Lehrschreiben mit künstlicher Intelligenz. Mutig wagt er sich vor auf ein Themengebiet, auf dem milliardenschwere Technokraten den Ton angeben. Das Kirchenoberhaupt verschafft sich Respekt nicht nur als moralische Instanz, sondern auch durch sein technologisches Fachwissen. Er ist kein Maschinenstürmer, fordert aber schon einen «nüchternen und wachsamen Umgang» mit Technik.
Stefan Betschon
Papst Leo XIV. hat am Pfingstmontag sein erstes Lehrschreiben veröffentlicht. Es geht ihm dabei um «die Bewahrung des Menschen im Zeitalter der künstlichen Intelligenz». Oft gibt sich in diesem Text der Autor mit dem Wörtchen «ich» zu erkennen. Wie können wir sicher sein, dass dieses Pronomen auf den Papst verweist, dass der Papst der Autor dieses Textes ist und nicht eine künstlich-intelligente Software?
Wir dürfen es annehmen, weil der Papst diese Enzyklika persönlich in Rom im Beisein von vielen Menschen als sein Werk vorgestellt hat. Wir können uns bei dieser Annahme auch auf textinterne Merkmale verlassen: Der 50-seitige Text hat einen durchgängigen Sprachduktus, er ist klar strukturiert, die Textlogik ist sauber durchgeführt, die Argumentation kohärent, alle Aussagen werden sorgfältig begründet. In gleichmässigen Schritten, Stufe um Stufe, kommt das Räsonieren voran.
Der Text nimmt an vielen Stellen Bezug auf andere von Menschen geschriebene Texte, die er nicht nur zitiert, sondern auch interpretiert. Der Text und diese anderen Texte bilden zusammen ein sorgfältig geknüpftes Wissensnetzwerk, das ein Jahrhunderte altes Nachdenken über sozialethische Fragen umfasst. Dieses Wissensgebiet ist weitläufig – grösser als die Liste mit den Resultaten einer Google-Abfrage –, aber es ist doch für intelligente Menschen überschaubar.
Als Arrangement von Argumenten, die ineinandergreifen und als Bestandteil eines grösseren Ganzen, in das er sich lückenlos einfügt, präsentiert sich der Text als ein Stück intellektuelles Kunsthandwerk. So haben Menschen einst schreibenderweise nachgedacht, damals, als Schreiben noch Denken voraussetzte und das Denken eine Sache von Menschen war.
Die europäische Kultur ist eine Kultur der Schrift, des Schreibens und der Schriftauslegung. Diese Kultur wird eben gerade zerstört. Weil sich nun Schreiben und Schriftauslegung automatisieren lassen, wird die Schriftlichkeit an Bedeutung verlieren. Das ist bereits absehbar. An den Universitäten zählen schriftliche Arbeiten nicht mehr viel, auf der Jagd nach Credits müssen sich Studierende heute in mündlichen Prüfungen oder in Seminardiskussionen hervortun.
Die Schrift, die die Verbreitung von Gedanken über grosse Distanzen ermöglicht, hat globale Gelehrtenrepubliken entstehen lassen. Nun könnte die Automatisierung des Schreibens die Bedeutung der Mündlichkeit und den Gedankenaustausch in kleinen Zirkeln stärken.
Die britische Wirtschaftswissenschafterin Frances Cairncross hat einst in ihrem Buch «The Death of Distance» (1997) die Entstehung eines World Wide Web enthusiastisch gefeiert. Dank den Computernetzwerken seien nun alle wichtigen Informationen für alle Menschen jederzeit überall verfügbar. Die KI, so ist zu vermuten, könnte eine «Renaissance of Distance» bewirken, in dem sie dafür sorgt, dass die Echtheit jedes geschriebenen Textes angezweifelt werden muss, was dazu beiträgt, dass die persönliche Begegnung und das gesprochene Wort an Bedeutung gewinnen.
Die erste Enzyklika von Papst Leo XIV. hat am Pfingstmontag ein grosses Medienecho ausgelöst. Das kann daran liegen, dass an diesem Montag sonst nicht viel los war, oder dass die Public-Relations-Experten im Vatikan die Präsentation des Rundschreibens mit prominenten Teilnehmenden im Rahmen einer Medienkonferenz in der Synodenaula des Vatikans gut inszeniert haben.
Vielleicht war es das Thema, das das Interesse der Öffentlichkeit geweckt hat, vielleicht war es dieser Papst selbst, der seit seinem Amtsantritt vor rund einem Jahr immer wieder mit wohlüberlegten und prägnanten Äusserungen zu aktuellen Themen aufgefallen ist.
Ist die Annahme berechtigt, dass alle Journalistinnen und Journalisten, die am Pfingstmontag über KI geschrieben haben, ihre Arbeit ohne die Unterstützung von KI erledigt haben? Einige dieser Texte sehen nicht so aus, als hier ein Mensch sich die Mühe gemacht hätte, einen langen Text genau zu lesen, gründlich zu überdenken und mit sorgfältig gewählten Worten zusammenzufassen und zu kommentieren. Eine oft wiedergegebene Agenturmeldung halluziniert über einen mehr als 100 Seiten langen Text, in dem der Papst Richtlinien fordere für die KI.
Doch: Müsste man das 53-seitige Lehrschreiben des Papstes möglichst kurz zusammenfassen, würde man sich auf die Feststellung beschränken, dass der Papst nicht Richtlinien fordert – das Wort Richtlinien kommt in dem Text gar nicht vor –, sondern, dass er ausführlich und kenntnisreich darlegt, dass die uralte christliche Sozialethik, die vor 135 Jahren bereits Papst Leo XIII. bei der Beurteilung der «Rerum novarum» – technischen Neuerungen – gute Dienste leistete, nach wie vor genügt, um die allerneuesten computertechnischen Innovationen zu beurteilen. Die Technik hat sich verändert, doch der Mensch bleibt, was er immer war, und deshalb braucht es für die neue Technik auch keine neue Ethik.
«Magnifica Humanitas», das erste Lehrschreiben von Papst Leo XIX. hat ein grosses Medienecho ausgelöst. Gut 200 Einträge fanden sich zu diesem Thema am Ende der Woche in der Schweizer Mediendatenbank. Ausführlich mit der Enzyklika beschäftigt haben sich im deutschsprachigen Raum die «Frankfurter Allgemeine Zeitung», die «Süddeutsche Zeitung» und die «Neue Zürcher Zeitung» (NZZ).
Sie alle haben das Thema aus unterschiedlichen Perspektiven betrachtet. In der NZZ kamen zwei katholische Theologen zu Wort, von denen der eine womöglich die lateinische Version der Enzyklika gelesen hat, jedenfalls ist seine Kritik des päpstlichen Lehrschreibens schwer nachvollziehbar.
Dem Wunsch folgend, «zeitgemäss» zu wirken, ein «vermeintliches Modernitätsdefizit der Kirche» zu beheben, so schreibt dieser Theologe in der NZZ, und im Bemühen, die «ramponierte» «geopolitische Diskursfähigkeit der Kirche» wiederherstellen – kurz: aus populistischen Motiven –, habe sich der Papst mit «religiös fundierten Belehrungen» auf ein «relativ unbebautes» «technisch-instrumentelles Terrain» vorgewagt und sich auf Fragen eingelassen, die allein «mit den Kräften der Vernunft zu beantworten wären».
Anstatt sich auf die Glaubenslehre zu beschränken, habe der Papst sich zur kirchlichen Soziallehre geäussert, doch in diesem Bereich könne er keine andere Autorität geltend machen als die «philosophische Stärke der Argumente». So die NZZ weiter.
Doch warum darf ein Papst sich diese «philosophische Stärke» nicht zu eigen machen und sozialethische Aussagen veröffentlichen, die nicht kraft seines Amtes, sondern dank ihrer Vernünftigkeit Beachtung verdienen? Dieser Theologe, ein in der NZZ gern gesehener Papst-Kritiker, hat seinen Text vermutlich selbst geschrieben. Eine so verquere Logik lässt sich beim gegenwärtigen Stand der Dinge künstlich wohl noch nicht erzeugen.
Der Begriff «Artificial Intelligence» (AI = Künstliche Intelligenz, KI) wurde 1956 von zwei jungen, unbedeutenden aber überaus ambitionierten amerikanischen Mathematikern geprägt. Die beiden frisch promovierten Berufseinsteiger – John McCarthy und Marvin Minsky – sahen sich im Schatten von Zeitgenossen, die zu den grössten Mathematikern aller Zeiten gehören: Alan Turing («On Computable Numbers», 1935), Claude Shannon («A Mathematical Theory of Communication», 1948), Norbert Wiener («Cybernetics», 1948) oder John von Neuman («Automata Studies», 1956). Die genannten Arbeiten schufen die Voraussetzungen für die Begründung einer neuen Wissenschaft im Einflussbereich von Biologie, Mathematik und Elektrotechnik.
Die beiden akademischen Hilfsarbeiter McCarthy und Minsky erfanden den Begriff KI, um das akademische Establishment zu ärgern und die Neugier der Medien anzustacheln. Sie machten als Professoren bald Karriere, fanden mit ihrer Forschungsarbeit in den Medien grosse Beachtung, haben aber wissenschaftlich nichts von bleibendem Wert geschaffen.
Sie haben Hunderte von Millionen an staatlichen Fördergeldern verbrannt, ohne je eine brauchbare KI-Applikation entwickelt zu haben. Aber der Begriff KI hat sich gehalten. Er ziert heute ein Forschungsparadigma, das sich an neuronalen Netzwerken orientiert, und das McCarthy und Minsky ein Leben lang bekämpft hatten.
Bereits 1956 haben wichtige Forscher im Bereich der KI – Allen Newell und Herbert Simon – den Begriff kritisiert. Sie hätten es lieber gesehen, wenn das neue Forschungsgebiet als «Complex Information Processing» bezeichnet worden wäre. Doch der Begriff KI hat sich durchgesetzt.
Die Kritik an der Namensgebung ist auch heute noch vernehmbar, als Alternative wird etwa «Daten-basierte Systeme» (DS) vorgeschlagen. Doch das vermag nicht zu überzeugen, denn alle Software ist Daten-basiert, und es besteht Verwechslungsgefahr mit einem etablierten Begriff, der eine traditionsreiche und grundlegende Software-Kategorie bezeichnet: Database Systems (DB).
Auch der Papst hadert mit der Unschärfe des Begriffs und fühlt sich gezwungen, sich kurz mit definitorischen Schwierigkeiten abzugeben: «Es ist nicht möglich, eine eindeutige und umfassende Definition von Künstlicher Intelligenz zu geben. Fest steht jedoch, dass das Missverständnis zu vermeiden ist, diese ‹Intelligenz› mit der menschlichen gleichzusetzen. Sogenannte Künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Leib, empfinden weder Freude noch Schmerz, reifen nicht in Beziehungen, wissen nicht von ihrem Inneren her, was Liebe, Arbeit, Freundschaft und Verantwortung bedeutet. Sie haben auch kein moralisches Gewissen.»
Seit KI als technischer Fachbegriff in Umlauf gebracht wurde, seit 70 Jahren, hat er viele Journalisten und Philosophen ermuntert, sich als Science-Fiction-Autoren zu versuchen. Viele haben schon das unmittelbar bevorstehende Ende der Menschheit vorausgesagt. Viele haben sich blamiert.
Realistischerweise musste bis vor wenigen Jahren das unmittelbar bevorstehende Ende der KI-Träumereien befürchtet werden. Erst durch die Software-technischen Innovationen im Zusammenhang mit den Large Language Models, die etwa in einem grundlegenden Aufsatz von Google-Ingenieuren 2017 publik gemacht wurden, gelang gegen Ende der 2010er Jahre der Durchbruch.
Eben gerade ist der KI-Enthusiasmus am Überkochen. Dabei werden die kurzfristigen Veränderungen stark überschätzt, die längerfristigen Auswirkungen geraten aus dem Blick. In dieser Zeit sind die wohlüberlegten Ermahnungen des Papstes sehr willkommen. Er ist kein Feind der Technik. Die Technik sei nicht eine menschfeindliche Kraft zu betrachten, «im Gegenteil» sei sie – und hier zitiert er aus einer Schrift von Benedikt XVI. – «eine zutiefst menschliche Erscheinung».
Leo XIV. anerkennt, dass KI eine «wertvolle Hilfe» sein könne. Doch er fordert einen «nüchternen und wachsamen Umgang» mit dieser Technik. Er möchte einen «gemeinsamen Reflexionsprozess» einleiten, der es ermögliche, die «geistigen und kulturellen Wurzeln der laufenden Veränderungen zu ergründen». Und er fordert, dass der Einsatz von KI «von klaren Kriterien und wirksamen Kontrollen» begleitet wird.
Wo der Papst Kritik äussert, zielt er weniger auf die KI oder die Computertechnik, sondern auf das, was er das «technokratische Paradigma» bezeichnet. Es ist eine Weltanschauung, die auf das Mehr-Haben ausgerichtet ist, die die Schöpfung zu einem «Objekt der Ausbeutung» macht und «die Menschen zu Rädchen in einem System erniedrigt, das nur immer effizienter werden muss». Diesem technokratischen Paradigma stellt der Papst die «Zivilisation der Liebe» gegenüber, ein Konzept, das er von Paul VI. übernommen hat.
Kritisch weist Leo XIV. darauf hin, dass die Computerbranche dazu tendiert, Monopole entstehen zu lassen, dass die «Plattformen, Infrastrukturen, Daten und Rechenleistung» von wenigen Unternehmen kontrolliert werden. «Wenn sich solche Macht in wenigen Händen konzentriert, besteht die Gefahr, dass sie undurchsichtig wird und sich der öffentlichen Kontrolle entzieht. Das erhöht das Risiko einer schiefen Entwicklung, die neue Abhängigkeiten, Ausgrenzungen, Manipulationen und Ungerechtigkeit erzeugt.»
In diesem Sinn fordert das Kirchenoberhaupt eine «Entwaffnung». Es geht nicht darum – einige Kommentatoren haben das falsch verstanden –, den militärischen Einsatz von KI zu unterbinden. Vielmehr möchte der Papst die KI der Logik des Profits und des wirtschaftlichen Wettbewerbs entziehen. «Entwaffnen bedeutet nicht, auf die Technologie zu verzichten, sondern zu verhindern, dass sie den Menschen beherrscht. Es bedeutet, sie Monopolen zu entziehen, sie hinterfragbar und anfechtbar und damit lebensfreundlich zu machen, sie der Vielfalt menschlicher Kulturen und Lebensweisen zurückzugeben.»
Wir durchlebten eine «rasante Übergangsphase», einen «Epochenwandel», schreibt der Papst. «Die neuen Technologien eröffnen einen Horizont, der sich in Richtungen erstreckt, die sich zwar erahnen, aber noch nicht vollständig vorhersagen lassen.» Die Menschheit müsse sich entscheiden. Es ist die Entscheidung nicht für oder gegen die Technologie, sondern «zwischen der Konstruktion von Babel oder dem Wiederaufbau Jerusalems, zwischen einer Macht, die sich anmasst, den Himmel zu beherrschen, und einem Volk, das sich in Gottes Gegenwart vereint ans Werk macht, die Mauern des geschwisterlichen Zusammenlebens wiederaufzubauen.» Eindringlich warnt Leo XIV. vor dem «Babel-Syndrom»: Dies ist «die Vergötterung des Profits» und «die Gefahr der Entmenschlichung – eine uralte und immer neue Versuchung, die heute technische Gestalt annimmt.»
Die Worte des Papstes haben auch in der Schweiz ein grosses Medienecho ausgelöst. Unter den rund 200 Beiträgen, die die Schweizer Mediendatenbank zu «Magnifica Humanitas» auflistet, gibt es allerdings viele Doubletten. Es gibt viele Zeitungstitel, die sich zum ersten Lehrschreiben des Papstes zu Wort melden, aber sie verlassen sich auf wenige Autoren. Die vielen Titel gaukeln eine Vielfalt vor, doch bei genauerer Betrachtung zeigt sich, dass die Zahl der Journalistinnen und Journalisten, die sich vergangene Woche in der Schweiz ernsthaft mit der Enzyklika des Papstes beschäftigt haben, mit zwei Händen abgezählt werden kann.
Die Digitalisierung der Medienbranche wurde mit der Erwartung verknüpft, dass die Vereinfachungen bei der Produktion und Distribution von Texten eine Verdichtung des intellektuellen Gehalts zur Folge hätten. Das Gegenteil ist eingetreten. Es grassiert der Copy-and-Paste-Journalismus. Mehr Content, weniger Gehalt. Die KI dürfte diesen Trend verstärken. Bleibt nur die Hoffnung, dass die KI gleichzeitig auch den Rezipienten die Mittel an die Hand gibt, sich diesen Gedankenlosigkeiten zu entziehen, den KI-generierten Content auszufiltern und auszublenden.
Kirche Schweiz – katholisch, aktuell, relevant