International
Papst am G7-Gipfel: Gefahren der KI erfordern politische Kontrolle
Erstmals hat ein Papst bei einem G7-Gipfel das Wort ergriffen. In Borgo Egnazia sprach Franziskus eindringlich über die Gefahren der Künstlichen Intelligenz – aber ohne sie zu verdammen. Er forderte, dass existenzielle Entscheidungen auch künftig immer dem Menschen überlassen bleiben müssten.
Papst Franziskus hat beim G7-Gipfel in Italien vor den Gefahren der Künstlichen Intelligenz gewarnt und ethische sowie politische Rahmenbedingungen für ihren Einsatz gefordert. In einer Grundsatzrede vor den Teilnehmern und Gästen des Treffens führender Industrienationen sagte der Papst: «(Der) rasante technologische Fortschritt macht die Künstliche Intelligenz zu einem faszinierenden und zugleich unheimlichen Instrument und verlangt nach einer Reflexion, die der Situation gerecht wird.»
Nicht abhängig von Maschinen werden
Der Papst forderte, dass existenzielle Entscheidungen auch künftig immer dem Menschen überlassen bleiben müssten und erklärte: «Wir würden die Menschheit zu einer hoffnungslosen Zukunft verdammen, wenn wir den Menschen die Fähigkeit nehmen würden, über sich selbst und ihr Leben zu entscheiden, und sie dazu verdammen würden, von der Wahl von Maschinen abhängig zu sein.»
Es sei ein «Verlust oder zumindest eine Verdunkelung des Sinns für das Menschliche und eine scheinbare Bedeutungslosigkeit des Begriffes der Menschenwürde zu verzeichnen», warnte der Papst: «Es scheint, als würde der Wert und die tiefe Bedeutsamkeit einer der grundlegenden Kategorien des Westens verloren gehen: die Kategorie der menschlichen Person.»
Gebrauch «tödlicher autonomer Waffen» überdenken
Mit Blick auf die moderne Kriegsführung forderte der Papst, die Entwicklung und den Gebrauch von «tödlichen autonomen Waffen» zu überdenken, ihren Einsatz zu verbieten und sie als ersten Schritt «einer immer grösseren und bedeutenden menschlichen Kontrolle» zu unterstellen. «Keine Maschine darf jemals die Wahl treffen können, einem Menschen das Leben zu nehmen», so der Papst.
Weiter gab das Kirchenoberhaupt zu bedenken, dass fortgeschrittene Formen der KI weder von den Nutzern noch von den Programmierern vollständig kontrolliert werden könnten. Wahrscheinlich würden «in nicht allzu ferner Zukunft Programme Künstlicher Intelligenz in der Lage sein, direkt miteinander zu kommunizieren, um ihre Performance zu verbessern.» Sie würden dann in der Lage sein, die Existenz der Menschen mehr als jedes andere von Menschen geschaffene Werkzeug zu prägen.
Papst fordert Ethik der Algorithmen
Zudem bedrohe der Verstärkungsmechanismus (Algorithmus), der vielen KI-Anwendungen zugrunde liege, die Fundamente menschlicher Werte. Sie bestätige bestehende Inhalte, «oft ohne zu prüfen, ob sie Fehler oder Vorurteile enthält.» Dadurch könnten Fake News legitimiert und dominante Kulturen gestärkt werden. Auch das menschliche Lernen werde bedroht, wenn der Bildungsprozess «auf eine Wiederholung von Begriffen reduziert (wird), die allein aufgrund ihrer ständigen Wiederkehr zunehmend als unanfechtbar bewertet werden».
Ferner bestehe «die konkrete Gefahr, dass die Künstliche Intelligenz gemäss ihrem grundlegenden Mechanismus die Sicht der Welt auf in Zahlen ausgedrückte und in vorgefertigte Kategorien gefasste Wirklichkeiten beschränkt, den Beitrag anderer Ausdrucksformen der Wahrheit verdrängt und einheitliche anthropologische, sozioökonomische und kulturelle Modelle aufzwingt». Angesichts dieser Risiken forderte der Papst die Entwicklung einer «Algorethik» (Ethik der Algorithmen).
Politik soll positive Nutzung ermöglichen
Auch die politisch Verantwortlichen seien gefordert, so der Papst. «Nur eine gesunde Politik könnte hier die Führungsrolle übernehmen und dabei die verschiedensten Sektoren und die unterschiedlichsten Wissensbereiche einbeziehen. So kann eine Wirtschaft, die sich in ein politisches, soziales, kulturelles und vom Volk her kommendes Projekt für das Gemeinwohl einfügt, den Weg für andere Möglichkeiten (eröffnen), die nicht etwa bedeuten, die Kreativität des Menschen und seinen Sinn für Fortschritt zu bremsen, sondern diese Energie auf neue Anliegen hin auszurichten.»
Genau das sei bei der Künstlichen Intelligenz der Fall. «Es liegt an allen, sie sinnvoll zu nutzen, und es kommt der Politik zu, die Bedingungen dafür zu schaffen, dass eine solche positive Nutzung möglich und fruchtbar ist», so der Papst am Schluss seiner langen Rede vor den beim G7-Gipfel versammelten Staats- und Regierungschefs. (cic)
Hier geht es zur › Bestellung einzelner Beiträge von kath.ch.
