Schweiz
Gefährlicher als Atomwaffen: Kirchschläger wirbt bei G20 für Regulierung von KI
Der Theologe und Ethiker Peter G. Kirchschläger hat mit der Südafrikanerin Shamira Ahmed Vorschläge zur Regulierung Künstlicher Intelligenz formuliert, die sich an die Mitgliedstaaten der G20 richten. Es sei wichtig, Chancen und Risiken datenbasierter Systeme frühzeitig zu erkennen. Einige Katastrophen hätten sich bereits ereignet.
Barbara Ludwig
Im November trifft sich in Brasilien die Gruppe der wichtigsten Industrie- und Schwellenländer zu ihrem diesjährigen Gipfel. Zu den inhaltlichen Vorbereitungen der rund 20 Staaten leistet auch der Theologe und Sozialethiker Peter G. Kirchschläger einen Beitrag. Dieser befasst sich mit Künstlicher Intelligenz (KI). Kirchschläger verwendet dabei lieber den Begriff «datenbasierte Systeme» (DS), da diese Systeme nicht intelligent seien.
Gemeinsam mit Shamira Ahmed hat er ein Dokument mit den Vorschlägen zuhanden der G20 verfasst, wie die Universität Luzern vergangene Woche mitteilte. Die Südafrikanerin ist Leiterin der Non-Profit-Organisation «Data Economy Policy Hub», die sie auch gegründet hat. Kirchschläger ist Professor für Theologische Ethik und Leiter des Instituts für Sozialethik an der Universität Luzern.
Menschenrechte sollen geschützt sein
Kirchschläger wurde aufgrund seiner eigenen Forschung zur Mitwirkung an den inhaltlichen Gipfel-Vorbereitungen im Rahmen der T20 angefragt. Dies ist ein Verbund internationaler Forschungsinstitute und Think-Tanks. Er habe diese Aufgabe angenommen, weil im Bereich datenbasierter Systeme hinsichtlich Governance, Regulierung und der Durchsetzung der Regulierung dringender Handlungsbedarf bestehe, teilt der Theologe auf Anfrage mit.
Als Massnahme schlagen Kirchschläger und Ahmed sogenannte «menschenrechtsbasierte DS» vor. Das bedeutet, dass die Menschenrechte im «gesamten Lebenszyklus» von DS und in der gesamten Wertschöpfungskette geachtet, geschützt, umgesetzt und verwirklicht werden, so die Mitteilung. Konkret heisst das, bei der Schürfung der für DS notwendigen Rohstoffe, bei der Gestaltung, Entwicklung, der Herstellung, dem Vertrieb, der Nutzung oder Nichtnutzung von DS aufgrund von Menschenrechtsbedenken.
Bei der UNO angesiedelte Agentur
Damit dieses Ziel erreicht werden kann, soll bei den Vereinten Nationen eine Internationale Agentur für datenbasierte Systeme (IDA) geschaffen werden. Das ist die zweite Massnahme, die den Mitgliedstaaten der G20 vorgeschlagen wird. Kirchschläger und Ahmed nehmen dabei explizit Bezug auf das Vorbild der Internationalen Atomenergie-Organisation (IAEA).
Die angestrebte Agentur soll eine Plattform für die globale technische Zusammenarbeit im Bereich der digitalen Transformation und DS für staatliche und nichtstaatliche Akteure sein. Die beiden Massnahmen resultieren laut Kirchschläger aus seiner sechsjährigen Forschungsarbeit zum Thema.
Gefährlicher als Atomwaffen
Kirchschläger hält es nicht für übertrieben, dass die Risiken datenbasierter Systeme gefährlicher seien als die Risiken von Atomwaffen. «Leider gibt es einige Katastrophen, die sich bereits ereignet haben», stellt der Ethiker fest. Und zählt auf: Es sei belegt, dass die Präsidentschaftswahlen von 2016 in den USA manipuliert worden seien mit Datensätzen von Nutzerinnen und Nutzern, die das soziale Netzwerk Facebook weiterverkauft habe. Dasselbe sei beim Brexit in Grossbritannien passiert.
Totalitäre Regime könnten auf diese Weise Einfluss auf Wahlen und Abstimmungen nehmen. Manipulation und Desinformation führen laut dem Forscher zur Unterwanderung und Destabilisierung demokratischer Länder.
Ständige Missachtung der Privatsphäre
Ein weiteres Beispiel sei die ökonomische Manipulation von Konsumentinnen und Konsumenten. «Wenn ich im Netz nachschaue, in welchem Café in Zürich ich den besten Kaffee bekomme, dann zeigt es mir nicht das Café mit dem besten Kaffee an, sondern dasjenige, welches am meisten für diese Präsenz im Netz bezahlt. Das ist eine Täuschung der Nutzerinnen und Nutzer.»
Zu den Risiken zählt der Ethiker auch eine ständige Missachtung der Privatsphäre und des Datenschutzes. «Das stellt einen massiven Angriff auf die Freiheit aller Menschen dar.» Es sei notwendig, ethische Chancen und ethische Risiken genau und frühzeitig zu erkennen, um die ethischen Vorteile der DS nachhaltig zu nutzen und die ethischen Nachteile von DS zu meistern oder zu vermeiden», erklärt Kirchschläger. Dazu brauche es eben eine bei der UNO angesiedelte Agentur.
«Es ist immer noch möglich, eine App auf den Markt zu bringen, die Kinderbilder sexualisiert.»
Der Handlungsbedarf sei dringend. «Im Jahr 2024 ist es immer noch möglich, zum Beispiel eine App auf den Markt zu bringen, die Kinderbilder sexualisiert, und das Einzige, was diesem Unternehmen passiert, ist, dass es damit viel Geld verdient», empört sich Kirchschläger. Und fordert: Dagegen müsse man etwas unternehmen. Es sei auch möglich, mit «generativen DS» die Karriere von Politikern mit einem Deepfake in Hollywood-Qualität zu vernichten. Deepfake ist eine mithilfe Künstlicher Intelligenz erzeugte beziehungsweise manipulierte Bild- oder Tondatei.
Kirchschläger reist zum Gipfel nach Rio
Die von Kirchschläger und Ahmed vorgeschlagene Agentur soll solche Aktionen stoppen und dafür menschenrechtsbasierte DS fördern durch die Wahrnehmung von drei Kernaufgaben: Marktzulassungsprüfung von DS auf Menschenrechte und Nachhaltigkeit; Monitoring, um Menschenrechtsverletzung sowie Umweltzerstörung durch DS zu unterbinden; Förderung der globalen Zusammenarbeit im Bereich DS.
Kirchschläger wird am Treffen der G20-Staaten vom 18. und 19. November in Rio de Janeiro vor Ort sein – und dabei auch erfahren, ob seine Ideen am Gipfel diskutiert werden, wie er kath.ch versichert. «Da ich an diesem Prozess auf der Basis meiner Forschung beratend mitwirken darf, wird mir das nicht entgehen.»
Hier geht es zur › Bestellung einzelner Beiträge von kath.ch.
