Schweiz
Peter G. Kirchschläger zu KI-Priester: Künstliche Intelligenz kann keine Seelsorge leisten
Der KI-Priester «Justin», der die Beichte hört, geht viral. Der Ethiker Peter G. Kirchschläger rät zur Vorsicht. Denn datenbasierte Systeme bergen hohe Missbrauchs- und Manipulationsgefahren. Ebenso können Menschenrechte verletzt werden. «Eine Ausweitung der Manipulation auf das Religiöse wäre fatal.»
Jacqueline Straub
Eine katholische Evangelisierung-Initiative wollte mit einem KI-Priester namens «Justin» lehrreiche Antworten auf Fragen zum Katholizismus geben. Kann eine KI das überhaupt?
Peter G. Kirchschläger*: Ich würde grundsätzlich dazu einladen, im Umgang mit einer solchen «KI» sehr zurückhaltend und kritisch zu sein. Denn eine solche «KI» ist bildlich gesprochen nichts Anderes als eine wiederkäuende Kuh, weil sie nur das wiederkäuen und dann ausspucken kann, was ihr als Daten bereits eingespeist worden ist.
Welche Kriterien spielen noch eine Rolle?
Kirchschläger: Erschwerend kommt noch hinzu, dass das Kriterium der Wahrhaftigkeit keine Rolle spielt. Zentral ist, dass eine solche «KI» etwas liefert, das syntaktisch korrekt und semantisch einigermassen passt. Ob die Inhalte stimmen oder nicht, erweist sich als nebensächlich. Wir Menschen hingegen streben zumindest danach, dieses Kriterium zu erfüllen. Ich würde auch vorschlagen, diese Systeme nicht als «KI», sondern als datenbasierte Systeme (DS) zu bezeichnen, da sie uns Menschen in gewissen Intelligenzbereichen wohl überragen, andere Intelligenzbereiche – wie etwas emotionale und soziale Intelligenz aufgrund von fehlender echter Emotionalität und nichtvorhandenen Gefühlen oder aufgrund von fehlender Moralfähigkeit wegen mangelnder Freiheit – für diese Maschinen unerreichbar sind und bleiben. Im Kern geht es bei diesen Maschinen um Daten, Daten, Daten: Datengenerierung und -sammlung, Datenverarbeitung, datenbasierte Handlungen.
«Es mag ja sein, dass wir mit solchen DS Menschen erreichen.»
«Pater Justin» erteilte der amerikanischen Professorin Katie Conrad, die zur Ethik künstlicher Intelligenz forscht, die Absolution. Er behauptete von einem Bischof geweiht zu sein und wollte die Frau dann auch noch heiraten. Was macht DS mit dem Sakramentenverständnis der katholischen Kirche?
Kirchschläger: Sakramente kennen auch eine relationale Ebene. Schon allein dieses Beziehungsgeschehen fällt natürlich bei DS komplett weg, weil sie nur Maschinen sind, was die Grenzen von DS hinsichtlich der Sakramente unter anderem deutlich macht. Zudem bestehen auch eine hohe Missbrauchs- und Manipulationsgefahr und Verletzungen der Menschenrechte auf Datenschutz und Privatsphäre, denn die Anbietenden von solchen DS stehlen die Daten der Glaubenden, verwenden sie weiter und verkaufen sie an die Meistbietenden.
«Eine Ausweitung der Manipulation auf das Religiöse wäre fatal.»
Kann DS sinnvoll in Pastoral und Seelsorge eingesetzt werden?
Kirchschläger: DS können aus ethischer Sicht in vielen Bereichen unseres Lebens positiv eingesetzt werden und dazu beitragen, dass allen Menschen ein menschenwürdiges Leben und dem Planeten eine nachhaltige Zukunft ermöglicht wird. Pastoral und Seelsorge zählen nicht zu diesen Bereichen, weil Pastoral und Seelsorge unter anderem von zwischenmenschlicher Interaktion und von Beziehungen leben, wo die DS nichts bieten können. Es mag ja sein, dass wir mit solchen DS Menschen erreichen. Wir sollten aber aus ethischer Perspektive kritisch hinterfragen, wie, womit und wofür wir sie mit DS erreichen. Wir Menschen sollten viel kritischer und ethisch informiert entscheiden, ob und wie wir eine Technologie schaffen, nutzen oder aus ethischen Gründen nicht nutzen beziehungsweise sie sogar zerstören.
Inzwischen wurde «Pater Justin» zu «Justin». Seine Macher haben ihn laisiert. Dennoch will die Gruppe auch in Zukunft DS für die Evangelisierung einsetzen. Wo sehen Sie die grössten Herausforderungen und Risiken?
Kirchschläger: Eine der grössten Herausforderungen und Risiken stellt bereits in der Gegenwart die politische und ökonomische Manipulation dar. Aufgrund der grossen Datensätze, die DS sammeln und generieren, «kennen» uns DS besser als wir selbst. Sie wissen genau, welche Punkte wie angesprochen werden müssen, um bei uns die durch die DS angestrebte politische Wahl- oder Abstimmungsstimme beziehungsweise Kaufentscheidung zu bekommen. Eine Ausweitung der Manipulation auf das Religiöse wäre fatal. Gleichzeitig stehlen DS im religiösen Bereich nicht nur Daten über das, wer und wie wir sind (Verhaltensmuster) sowie was wir wollen (Interessen, Präferenzen), sondern auch noch darüber, woran wir glauben und worauf wir hoffen, was uns schliesslich noch weit verletzbarer macht.
Was könnte eine Lösung des Problems sein?
Kirchschläger: Ein diesbezüglicher konkreter Handlungsvorschlag aus meiner Forschung umfasst, menschenrechtsbasierte DS zu schaffen. Menschenrechtsbasierte DS bedeutet, dass im gesamten Lebenszyklus von DS die Menschenrechte respektiert werden.
Was heisst das konkret?
Kirchschläger: Zum Beispiel beim Design, bei der Schürfung der für DS notwendigen Rohstoffe, bei der Produktion, bei der Nutzung und auch bei der Nichtnutzung von DS aufgrund von Menschenrechtsbedenken. Gleichzeitig sollte für die Durchsetzung menschenrechtsbasierter «KI» eine Internationale Agentur für datenbasierte Systeme (IDA) bei der UNO geschaffen werden – nach dem Modell der Internationalen Atomenergiebehörde (IAEA), das heisst «mit Zähnen». Letzteres meint, dass sie neben einer Plattform für technische Zusammenarbeit auch die Funktion einer Marktzulassungs- und Monitoringbehörde erfüllen soll, um menschenrechtsverletzende und klima- und umweltzerstörende DS zu verhindern. Beide konkreten Vorschlägen aus meiner Forschung werden auch von Papst Franziskus unterstützt. Falls jemand die Schaffung von IDA bei der UNO ideell unterstützen möchte, besteht auf www.idaonline.ch die Möglichkeit, einem globalen internationalen und interdisziplinären Netzwerk von Unterstützern und Unterstützerinnen beizutreten, deren Stimmen dann den UNO-Mitgliedstaaten und der UNO kommuniziert werden.
*Peter G. Kirchschläger (47) ist Professor für Theologische Ethik und Leiter des Instituts für Sozialethik ISE an der Universität Luzern.
Tipp: Beim neuen Masterstudium «Ethik» an der Universität Luzern startet im Herbst 2024 der 2. Durchgang. Dieses Ethik-Studium ist in der Schweiz neu und einzigartig. Der innovative Studiengang richtet sich an alle Bachelorabsolventen und -tinnen von Universitäten, Fachhochschulen und Pädagogischen Hochschulen aller Fachrichtungen.
Hier geht es zur › Bestellung einzelner Beiträge von kath.ch.
