KI-erstellte Videos von Papst Leo XIV. kursieren in den sozialen Medien. Diese lassen das Oberhaupt der katholischen Kirche etwas predigen, was er nie gesagt hat. «Dies birgt ein erschreckendes Potenzial des Machtmissbrauchs und der Manipulation in sich», sagt der Luzerner Ethiker Peter G. Kirchschläger. Der Vatikan kann nicht viel dagegen tun.
Jacqueline Straub
KI-gefälschte Video-Predigten von Papst Leo XIV. fluten das Internet. Warum?
Peter G. Kirchschläger*: Sogenannte «KI»-gefälschte Video-Predigten eröffnen die Möglichkeit, Papst Leo XIV. leider täuschend echt Worte in den Mund zu legen, die er so nie gesagt hat oder sagen würde. Dies birgt ein erschreckendes Potenzial des Machtmissbrauchs und der Manipulation in sich.
Gläubige fallen reihenweise auf die verbreiteten Fälschungen herein. Selbst dann, wenn die Videos als KI-generiert gekennzeichnet sind. Was braucht es, damit das weniger passiert?
Kirchschläger: Deepfakes sollten zum einen verboten und hart sanktioniert, sowie die multinationalen Technologiekonzerne, die auf ihren Social-Media-Plattformen solche Deepfakes laufen lassen, konsequent zur Verantwortung gezogen werden. Zum anderen sollten Kompetenzen zu einem kritischen Umgang mit sogenannten «Social Media», die adäquater als «asoziale Medien» zu bezeichnen sind, in der schulischen und ausserschulischen Bildung gezielt gefördert werden.
Es besteht also dringender Handlungsbedarf.
Kirchschläger: Definitiv. Die Entscheidungsträger und Entscheidungsträgerinnen in Politik und Wirtschaft sollten sich vor Augen führen, dass auch ihre Karrieren durch einen Deepfake innerhalb von wenigen Stunden zerstört werden könnte, und endlich ins Handeln kommen.
«Der Vatikan kann offizielle Richtigstellungen veröffentlichen und wiederholt kommunizieren.»
Was kann der Vatikan gegen solche Deepfakes machen?
Kirchschläger: Leider kann der Vatikan allein nicht viel gegen Deepfakes ausrichten. Daher wäre es basierend auf meiner Forschung notwendig, dass der Vatikan erstens gemeinsam mit den anderen Staaten möglichst schnell eine globale Regulierung der digitalen Sphäre und von «KI» sowie die Schaffung einer Durchsetzungsinstitution bei der UNO – einer Internationalen Agentur für datenbasierte Systeme (IDA) bei der UNO – vorantreibt.
Was kann der Vatikan noch tun?
Kirchschläger: Der Vatikan kann offizielle Richtigstellungen veröffentlichen und wiederholt kommunizieren. Und er könnte bei besonders wichtigen Themen möglichst bald zumindest Grundzüge der Positionen von Papst Leo XIV. kommunizieren, um so zu versuchen, den thematischen Spielraum für Deepfakes ein bisschen einzuschränken.
«Der Kreis der möglichen Täter und Täterinnen ist leider äusserst weit.»
Welche Gefahr bergen diese Deepfakes für den Papst, die Kirche und gar den katholischen Glauben?
Kirchschläger: Deepfakes richten einen massiven Schaden an und stellen eine grosse Gefahr für den Papst, die Kirche und den katholischen Glauben dar, da Deepfakes mit ihrer enormen Reichweite Millionen von Menschen fundamental täuschen und irreleiten können. So können Menschen hinsichtlich von Aussagen und Positionen von Papst Leo XIV. und der Kirche sowie in Bezug auf Glaubensinhalte gezielt manipuliert werden. Bei Deepfakes erweist es sich als eine riesige Gefahr, da einige Elemente der Deepfakes trotz offizieller Richtigstellung in den Köpfen der Menschen hängenbleiben.
Wer hat Interesse, gefälschte Aussagen von Papst Leo XIV. auf Social Media zu verbreiten?
Kirchschläger: Da die Schaffung von Deepfakes technisch so einfach ist, entsprechende Produkte zur Erstellung von Deepfakes überall und so leicht zugänglich sind, multinationale Technologiekonzerne viel zu wenig oder nichts gegen Deepfakes unternehmen und bisher eine globale Regulierung sowie deren Durchsetzung fehlen, ist der Kreis der möglichen Täter und Täterinnen leider äusserst weit. Aufgrund des Zieles, mit solchen Deepfakes Menschen gezielt zu manipulieren, kommen sowohl der politische und gesellschaftliche als auch der innerkirchliche Bereich in Frage.
Auf dem Programm von Papst Leo XIV. steht das Thema KI. Was erwarten Sie sich von ihm diesbezüglich?
Kirchschläger: Papst Leo XIV. hat bereits die Position von Papst Franziskus, der Vorschläge aus meiner Forschung aufgegriffen hatte – nämlich einen menschenrechtsbasierten globale Rahmen sowie die Etablierung einer Internationalen Agentur für datenbasierte Systeme (IDA) bei der UNO zur Durchsetzung dieser globalen Regulierung –, bekräftigt und sogenannte «KI» als eine der grössten Herausforderungen der nächsten Jahre «für die Verteidigung der Menschenwürde, der Gerechtigkeit und der Arbeit» bezeichnet. Ich bin zuversichtlich, dass sich Papst Leo XIV. weiter für menschenrechtsbasierte «KI» einsetzen wird.
*Peter G. Kirchschläger ist Professor für Theologische Ethik an der Universität Luzern.
Kirche Schweiz – katholisch, aktuell, relevant