Bischof Felix Gmür, Philosophinnen, KI-Forscher und Vertreter von Wikimedia und Google haben in Zürich über die Konsequenzen künstlicher Intelligenz diskutiert. Im Zentrum standen die menschliche Würde, die Herkunft unserer Daten, die Kontrolle über Maschinen und die Frage, was menschliche Bildung künftig leisten soll.
Francesco Papagni
Die Enzyklika Magnifica Humanitas von Papst Leo XIV. hat ein grosses Echo ausgelöst. Nun ist es der Swiss Data Alliance zusammen mit Wikimedia und den Jesuiten gelungen, Ethikerinnen, K.I.-Forscher und einen Vertreter der grossen Technologiefirmen auf ein Podium zu bringen. Bischof Felix Gmür, Bischof von Basel, der ebenfalls teilnahm, erhielt die Aufgabe, die Grundgedanken der Enzyklika zu erklären. Er tat das mit Witz und Klarheit.
André Golliez von der Swiss Data Alliance eröffnete die Diskussion mit der Bemerkung, das Podium stelle ein Experiment dar: Es gehe auch darum, eine gemeinsame Sprache über Disziplingrenzen hinweg zu finden. Jenny Ebermann von Wikimedia Schweiz, der Muttergesellschaft von Wikipedia, stellte gleich eine politische Kernfrage: «Wer kontrolliert die Architektur des menschlichen Wissens?» Und der Jesuit und Co-Moderator Christian Rutishauser erhöhte die Dosis nochmals, indem er die «Weltgestaltung als Ganzes» als Thema setzte.
Bischof Felix Gmür erklärte dem zahlreich erschienenen Publikum, was die Soziallehre der katholischen Kirche will, nämlich einen «ethischen Kompass» für die Gläubigen bieten. Seit Rerum Novarum (1891) von Past Leo XIII., der sich der Arbeiterfrage zuwandte, kümmert sich die Kirche um drängende gesellschaftliche Fragen in Form von Lehrschreiben.
Es war Papst Franziskus, der ein «technokratisches Paradigma» in den westlichen Gesellschaften am Werk sah. Papst Leo knüpft daran an. Bischof Felix Gmür brachte die Eigenheit des lehramtlichen Zugangs so auf den Punkt: Die dominante Frage laute heute: «Was ist effizient, was bringt Gewinn, was lässt sich kontrollieren?»
Hier fehlten die menschliche Würde, die Gerechtigkeit und die Nachhaltigkeit. Es geht also um den Schutz des Menschen vor Reduzierung, im KI-Zeitalter insbesondere vor Reduzierung auf Daten. Es müsste sichergestellt werden, dass am Schluss immer ein Mensch und nicht eine Maschine entscheidet, folgerte der Bischof von Basel.
Gespannt wartete das Publikum auf den Auftritt von Anton Aschwanden von Google. Aschwanden spielte seinen Part, indem er die Arbeit von Google in bestem Licht darstellte. Die Firma würde mit der UNO, ja mit dem Generalsekretär Guterres persönlich zusammenarbeiten, um mit verbesserten Modellen Waldbrände oder Hochwasser früher voraussehen zu können. Es gäbe nicht nur einen schlechten Gebrauch von KI, wenn sich Menschen unkritisch auf KI verlassen würden, sondern auch einen Nicht-Gebrauch: Milliarden von Menschen hätten gar keinen Zugang zum digitalen Raum.
Der KI-Forscher Abraham Bernstein von der Uni Zürich nahm den Ball auf. Eines der Probleme mit KI-Modellen sei, dass diese die Konsequenzen der eigenen Handlungen nicht tragen würden. Wir müssten uns fragen, wohin wir mit der KI hinwollten. Und er schloss mit einer für einen Forscher bemerkenswerten Aussage: «Ich bin dem Papst unheimlich dankbar, dass er das Thema aufs Tapet gebracht hat.»
Die Philosophin Nadia Mazouz von der ETH nahm Kritik an der Kritik: Es werde immer wieder «wir» gesagt, aber wer sei dieses Wir? Wenn vor einer Tyrannis durch Technik gewarnt werde, wer ist dann der Tyrann? Die Technik selbst? Oder Menschen, die die Technik steuern würden? Und sind nicht-menschliche Wesen, etwa höhere Säugetiere, nicht auch Teil des Wir? Ohne den moralisch-juristischen Status von Tieren bemühen zu müssen, hat der Soziologe Niklas Luhmann die Rede vom Wir schon vor Jahrzehnten infrage gestellt, weil die Gesellschaft nach ihm kein Subjekt ist, aber die politische Philosophie dieses als Makro-Subjekt gedacht hat.
Den Steilpass nach dem Menschsein nahm die andere Philosophin, Alexandra Kaiser-Duliba von der Universität Luzern, auf: Es gehe um die Stellung des Menschen im Kosmos. Das tönt altertümlich, doch zitierte sie damit den bedeutenden Philosophen Max Scheler, ohne ihn zu nennen.
Für KI-Forscher Bernstein sei Intelligenz immer durch dasjenige definiert worden, was die Maschine nicht könne. Bei KI, die Erstaunliches kann, stelle sich die Frage neu: Was ist das spezifisch menschliche Residuum? Was ist der Mensch? Auch der Forscher von der Uni Zürich plädierte dafür, dass der Mensch die Kontrolle behält, denn «wir dürfen nicht darauf bauen, dass sich die Maschine an die Regeln hält». Überhaupt dürften wir das Denken nicht der Maschine überlassen.
KI-Modelle funktionieren mit enormen Mengen von Daten. Für Jenny Ebermann lautete die Frage nicht: Was ist der Mensch? Sondern: Woher kommen die Daten? Die Modelle verarbeiten Wissen, das von Menschen erzeugt wurde. Bekanntlich werden die KI-Modelle mit menschlichem Wissen trainiert. «Das Modell fällt ohne Menschen, die das Wissen liefern, wie ein Kartenhaus zusammen», gab sie zu bedenken. Das gilt für KI, das gilt noch mehr für Wikipedia, das auf Freiwilligenarbeit angewiesen ist. Auch wies Ebermann darauf hin, dass es sich um Daten aus entwickelten Ländern handle. Ein Teil unserer Welt ist noch gar nicht digital erfasst.
Die Grundlage für die ganze Wissensökonomie bilden Rohstoffe, die unter unmenschlichen Bedingungen etwa von Kindern in Kobaltminen geschürft werden. Das dürfe man nicht vergessen, so die Wikimedia-Vertreterin. Überhaupt werde der Infrastruktur zu wenig Aufmerksamkeit geschenkt, es gebe digitale Gemeingüter. Zu diesen gehöre auch das verfügbare Wissen selbst.
Was heisst dies alles für die Ausbildung? Bernstein zitierte den früheren MIT-Direktor, der gefragt wurde, ob denn die Studierenden in Zukunft immer noch auf den Campus kommen würden. Seine Antwort: Ja, denn hier würden sie lernen, was es heisst, ein Lernender zu sein. Es geht beim Studium also auch um Sozialisation. Noch einmal kam die Philosophin Mazouz mit Metakritik: Wenn wir ehrlich sind, wüssten wir gar nicht, was wir in die Curricula schreiben müssten, um die menschlichen Kompetenzen für die Zukunft zu sichern. Bernstein hatte darauf eine Antwort: Die Bildungsinstitutionen müssten alles daran setzen, dass sich die Studierenden für die Themen begeistern würden. Die Fähigkeiten gingen der Begeisterung nicht voraus, sie folgten dieser.
Dass dieser Anlass zustande kam, ist bereits ein Erfolg: Interdisziplinäre Diskussionen sind schwierig, weil die Beteiligten unterschiedliche Sprachen sprechen. Umso wichtiger ist der begonnene Dialog. Nur gemeinsam lässt sich die technologische Entwicklung gestalten, statt sie einfach zu erleiden. Die schlechteste Option, so Kaiser-Duliba, sei Untätigkeit.
Die Jesuiten bleiben jedenfalls dran: Mit der Initiative «wisdom fellows» vermitteln sie ganzheitliche Bildung. Und das Lassalle-Institut organisiert Dialog-Zirkel für Führungskräfte. «Wir stehen in einer Medienrevolution», bilanzierte Christian Rutishauser.
Kirche Schweiz – katholisch, aktuell, relevant
https://www.kath.ch/newsd/das-denken-sollten-wir-nicht-der-maschine-ueberlassen/