Schweiz
«Gefahr der technologischen Diktatur»: Kirche warnt vor Künstlicher Intelligenz
KI, sprich: künstliche Intelligenz, erobert immer neue Bereiche der Gesellschaft. Während auf der Rigi vor einigen Jahren noch zwei possierliche «Pepper»-Roboter Touristen mit ihren gefütterten Infos erfreuten, drohen dem modernen Menschen immer mehr Bewusstseinsmanipulationen durch computerisierte Intelligenz. Diese Gefahren hat auch die katholische Kirche erkannt. Allen voran Papst Franziskus.
Wolfgang Holz
Künstliche Intelligenz ist heute Teil des Alltags. Ob als Suchmaschinen, als smarte Sprachassistenten, bei medizinischen Diagnosen oder bei selbstfahrenden Fahrzeugen. Diskutiert wird sogar auch über Pflege- sowie über Kriegsroboter.
Papst warnt vor «ernsthaften Risiken»
Papst Franziskus hält diese Fortschritte bei den neuen Informationstechnologien, vor allem im digitalen Bereich, für «bemerkenswert», warnt aber gleichzeitig vor «ernsthaften Risiken». Das stand in seiner Botschaft zum Weltfriedenstag 2024.
Die «wissenschaftlichen und technischen Fortschritte» erlauben es dem Menschen laut Papst Franziskus «eine noch nie dagewesene Kontrolle über die Wirklichkeit». Das bringe Möglichkeiten mit sich, «von denen einige ein Risiko für das Überleben der Menschen und eine Gefahr für das gemeinsame Haus darstellen können».
«Ein solches positives Ergebnis wird nur möglich sein, wenn wir uns als dazu fähig erweisen, verantwortungsbewusst zu handeln.»
Papst Franziskus
Man dürfe nicht «a priori davon ausgehen», dass Künstliche Intelligenz «einen positiven Beitrag zur Zukunft der Menschheit und zum Frieden zwischen den Völkern leisten wird», mahnt Franziskus. «Ein solches positives Ergebnis wird nur möglich sein, wenn wir uns als dazu fähig erweisen, verantwortungsbewusst zu handeln», sagte er auf «Vatican News».
Jedenfalls reiche es nicht, so der Heilige Vater, bei den Entwicklern von Algorithmen und digitalen Technologien «eine Verpflichtung zu ethischem und verantwortungsvollem Handeln vorauszusetzen». Es müssten Organismen gestärkt oder gegebenenfalls geschaffen werden, die sich mit den neu auftretenden ethischen Fragen befassen und die Rechte derjenigen schützen, die Formen der künstlichen Intelligenz nutzen oder von ihnen beeinflusst werden.
«Gespür für Grenzen»
Papst Franziskus setzt deshalb auf ein «Gespür für Grenzen»: «Wenn der Mensch, der definitionsgemäss sterblich ist, nämlich meint, mit Hilfe der Technik jede Grenze zu überschreiten, läuft er durch die Besessenheit alles kontrollieren zu wollen Gefahr, die Kontrolle über sich selbst zu verlieren; auf der Suche nach absoluter Freiheit in die Spirale einer technologischen Diktatur zu geraten».
«Algorithmen darf nicht erlaubt werden, die Art und Weise zu bestimmen, wie wir die Menschenrechte verstehen.»
Papst Franziskus
KI bei Auswahl- und Entscheidungsprozessen einzusetzen, hält Franziskus für ethisch zutiefst problematisch. «Algorithmen darf nicht erlaubt werden, die Art und Weise zu bestimmen, wie wir die Menschenrechte verstehen, die Grundwerte des Mitgefühls, der Barmherzigkeit und der Vergebung beiseitezuschieben oder die Möglichkeit auszuschliessen, dass ein Individuum sich ändert und die Vergangenheit hinter sich lässt.» Auch ihren Einsatz in der Rüstungsindustrie sieht er ausgesprochen kritisch. «Autonome Waffensysteme werden niemals moralisch verantwortliche Subjekte sein können.»
«Verbindlicher internationaler Vertrag»
Franziskus fordert die internationale Gemeinschaft dazu auf, «einen verbindlichen internationalen Vertrag zu schliessen, der die Entwicklung und den Einsatz von künstlicher Intelligenz in ihren vielfältigen Formen regelt». Ziel müsse sein, «dass die rapide Entwicklung von Formen künstlicher Intelligenz die vielen Ungleichheiten und Ungerechtigkeiten, die es in der Welt bereits gibt, nicht noch vergrössert, sondern dazu beiträgt, Kriege und Konflikte zu beenden und viele Formen des Leidens zu lindern, die die Menschheitsfamilie heimsuchen».
Chatbots und Übersetzungs-Tools
Auch die Bischöfe in Deutschland haben zum kritischen Umgang mit Künstlicher Intelligenz aufgerufen. «Durch die faszinierenden Entwicklungen der KI erleben wir derzeit epochale Veränderungen auch in der medialen Kommunikation», erklärte der Medienbischof der Deutschen Bischofskonferenz Kardinal Reinhard Marx. Werkzeuge wie Chatbots und Übersetzungs-Tools könnten neue Wege des Verstehens und der Kommunikation eröffnen.
«Die Fähigkeit zur Reflexion, ethische Folgerungen ziehen zu können und darüber in Austausch zu treten, zu kommunizieren, unterscheidet uns wesentlich von Künstlicher Intelligenz.»
Kardinal Reinhard Marx
Marx sieht zugleich die Grenzen der Künstlichen Intelligenz gegenüber menschlichem Denken: «Die Fähigkeit zur Reflexion, ethische Folgerungen ziehen zu können und darüber in Austausch zu treten, zu kommunizieren, unterscheidet uns wesentlich von Künstlicher Intelligenz.»
Der Kardinal rief dazu auf, die Simulation von menschlicher Intelligenz und Kommunikation kritisch zu reflektieren. Ein wichtiges Kriterium sei, ob die KI menschliche Freiheit fördere und erhalte. Darüber hinaus müsse auch gefragt werden, welche Folgen der zunehmende Energiebedarf digitaler Kommunikation für den Klimaschutz habe und wie die Gesellschaft damit umgehe, dass durch KI bestimmte Arbeitsplätze und Berufsfelder verloren gingen.
Bischof Gmür: KI birgt ethische Risiken
In der Schweiz betonte der Basler Bischof Felix Gmür, dass Papst Franziskus in seiner Botschaft zum Weltfriedenstag im Bereich der Künstlichen Intelligenz (KI) erstaunliche Möglichkeiten und ernsthafte Gefahren feststelle: KI berge ethische Chancen und Risiken, könne demzufolge die Menschenwürde und die Menschenrechte fördern aber auch verletzen. Daher sollten Entwicklungen im Bereich der KI auf der Basis der Menschenrechte erfolgen.
Peter Kirchschläger, Professor für Sozialethik und Theologe an der Hochschule Luzern, fordert in Sachen künstlicher Intelligenz eine globale Überwachungsbehörde zum Schutz aller Menschen vor KI. Vor allem ist er der Überzeugung, dass künstliche Intelligenz keine Seelsorge leisten kann.
«Datenbasierte Systeme können aus ethischer Sicht in vielen Bereichen unseres Lebens positiv eingesetzt werden und dazu beitragen, dass allen Menschen ein menschenwürdiges Leben und dem Planeten eine nachhaltige Zukunft ermöglicht wird», sagt Kirchschläger.
Keine Seelsorge durch künstliche Intelligenz
Pastoral und Seelsorge würden aber nicht zu diesen Bereichen zählen, weil Pastoral und Seelsorge unter anderem von zwischenmenschlicher Interaktion und von Beziehungen leben, wo die datenbasierten Systeme nichts bieten könnten.
Kirchschläger: «Wir sollten aus ethischer Perspektive kritisch hinterfragen, wie, womit und wofür wir Menschen mit datenbasierten Systemen erreichen. Wir Menschen sollten viel kritischer und ethisch informiert entscheiden, ob und wie wir eine Technologie schaffen, nutzen oder aus ethischen Gründen nicht nutzen beziehungsweise sie sogar zerstören.»
Menschenrechtsbasierte KI nötig
Eine Ausweitung der Manipulation auf das Religiöse wäre aus der Sicht Kirschschlägers fatal. «Denn gleichzeitig stehlen datenbasierte Systeme im religiösen Bereich nicht nur Daten über das, wer und wie wir sind sowie was wir wollen, sondern auch noch darüber, woran wir glauben und worauf wir hoffen, was uns schliesslich noch weit verletzbarer macht.» Ein diesbezüglicher konkreter Handlungsvorschlag aus seiner Forschung umfasse, so der Luzerner Professor, menschenrechtsbasierte datenbasierte Systeme zu schaffen.
Die Kommission der Bischofskonferenzen der Europäischen Gemeinschaft (COMECE) verlangt eine klare Definition des Begriffes «Künstliche Intelligenz», um ihn von menschlicher Intelligenz zu unterscheiden. So solle vermieden werden, dass KI-Systemen irrtümlich moralische Unterscheidungsfähigkeit unterstellt werden könne.
Hohes Risiko für demokratische Wahlen
Das höchste Risiko sieht die COMECE im Bereich der Beeinflussung demokratischer Wahlen und beim Einsatz von KI in Justiz, Grenzschutz und als Pflegeroboter. Auch wenn das Weissbuch den Bereich der militärischen Nutzung von KI ausklammert, wiederholen die Bischöfe ihre Forderung, den Einsatz autonomer bewaffneter Drohnen ohne menschliche Überwachung zu verbieten. Ein derartiges Verbot soll durch einen weltweit bindenden völkerrechtlichen Vertrag verankert werden.
Bereits 2019 hatte die COMECE ein Papier zur Ethik der Robotik veröffentlicht. Darin forderte sie insbesondere, auf die Einführung einer neuen Form der Rechtspersönlichkeit für Roboter zu verzichten und stattdessen das bestehende Haftungsrecht auch auf autonome Systeme anzuwenden. Die Bischöfe begrüssen die Absicht, einen europäischen Ansatz zur KI zu entwickeln, der Menschenwürde und den Schutz der Privatsphäre respektiert.
«Wir brauchen KI-Kompetenz, den gesunden Zweifel, weil KI keine Selbstzweifel hat.»
Bischof Heiner Willmer
Nicht zuletzt mahnt der deutsche Bischof Heiner Willmer zu klugem Umgang mit KI. Er sieht den Einsatz von Künstlicher Intelligenz zwiespältig. «Auf der einen Seite würden die Menschen davon profitieren, weil künstliche Intelligenz wertvolle Hilfestellungen gibt, ja manchmal auch neue kreative Ideen liefert, die uns weiterführen.» Dennoch brauche es klugen Umgang mit dieser Technologie. «Wir brauchen KI-Kompetenz, den gesunden Zweifel, weil KI keine Selbstzweifel hat.»
«Um des Lebens, um der Menschen und um des Friedens willen müssen wir die Gefahren, die die KI birgt, benennen und abwehren», so Bischof Wilmer. Besonders da, wo es um das Leben, das eigene und das Leben anderer, wo es um Frieden geht, muss man mit Verstand und Herz Urteile treffen.»
Künstliche Intelligenz
Der Begriff Künstliche Intelligenz (KI) wurde vor mehr als 60 Jahren geprägt durch den US-Informatiker John McCarthy. Er stellte einen Antrag für ein Forschungsprojekt zu Maschinen, die Schach spielten, mathematische Probleme lösten und selbstständig lernten. Im Sommer 1956 stellte er seine Erkenntnisse anderen Wissenschaftlern vor. Der britische Mathematiker Alan Turing hatte sechs Jahre zuvor bereits den «Turing Test» entwickelt, der bestimmen kann, ob das Gegenüber ein Mensch ist oder eine Maschine, die sich als Mensch ausgibt.
Doch dauerte es Jahrzehnte, um die KI-Forschung voranzubringen, weil dafür deutlich höhere Rechenleistungen nötig waren. Mitte der 90-er Jahre war es so weit, und Wissenschaftler widmeten sich Aufgaben wie der Bilderkennung. Nach und nach wurden künstliche neuronale Netze entwickelt, die Informationen wie Sprache und Bilder aufnehmen, Muster erkennen und eigene Lösungen entwickeln. (woz)
Hier geht es zur › Bestellung einzelner Beiträge von kath.ch.
