Die Digitalisierung wird begleitet von Algorithmen. Diese treffen Prognosen oder Entscheidungen, die Konsequenzen auf den Menschen haben. «Algorithmen haben das Potential, Diskriminierungsmuster aufzudecken», sagt Angela Müller von Algorithm Watch. Gleichzeitig ist das Diskriminierungspotential gross. Im Sozialwesen sollten Algorithmen mit viel Umsicht eingesetzt werden.
David Meier
«Wir können den Einfluss von Algorithmen auf die Meinungsbildung und die Politik noch nicht eindeutig feststellen. Die Forschung dazu ist unglaublich aufwendig», sagt Angela Müller. Sie ist ausgewiesene Expertin, wenn es um die aktuellsten Entwicklungen im Web geht. Müller arbeitet bei der zivilgesellschaftlichen Advocacy-Organisation Algorithm Watch Schweiz und klärt am Caritas-Forum 2023 darüber auf, was für Auswirkungen Algorithmen auch in Bezug auf Armut haben können. Dass man die Auswirkungen der künstlichen Intelligenz scheinbar nicht klar erfassen kann, scheint gängige Klischees zu bestätigen.
Algorithmen werden in der Schweiz bereits jetzt an vielen Orten eingesetzt. Das ist besonders pikant, wenn es beispielsweise um die Verteilung von Migrantinnen und Migranten auf verschiedene Kantone geht. Momentan laufen aber auch Versuche, die Schülerinnen und Schüler in der Stadt Zürich so auf die verschiedenen Schulhäuser aufzuteilen, dass eine optimale soziokulturelle Durchmischung erreicht wird.
Und hier kommt ein entscheidender Faktor ins Spiel: Der Algorithmus ist immer nur so gut, wie die Daten beziehungsweise die Programmierung, mit denen er «gefüttert» wurde. Aber auch die Art und Weise, wie er eingesetzt wird, spielt eine wichtige Rolle. Es ist also der Mensch hinter dem Algorithmus, der darüber entscheidet, wie sich der Algorithmus verhält. Und es ist der Mensch, der erkennen muss, wann der Algorithmus Fehlentscheidungen trifft. In den Niederlanden mussten viele Familien fälschlicherweise staatliche Unterstützungsleistungen zurückbezahlen, weil ein diskriminierender Algorithmus Faktoren wie Doppelbürgerschaft negativ beurteilte.
Angela Müller unterstreicht aber auch die Vorteile von Algorithmen: «Algorithmen haben das Potential, Diskriminierungsmuster aufzudecken und Risikoindikatoren zu erkennen, was gerade im Kampf gegen Armut wichtig ist. Allerdings ist ihr Diskriminierungspotential gleichzeitig gross, weshalb sie in sensitiven Bereichen wie dem Sozialwesen mit sehr viel Umsicht eingesetzt werden sollten.»
Was Angela Müller allerdings auch sagt: «Algorithmen lösen die grossen gesellschaftlichen Probleme nicht. Die Macht- und Gerechtigkeitsdiskussion muss trotzdem geführt werden. Weitere Dimensionen spielen eine Rolle: Wie können wir nachhaltige Märkte schaffen? Bezüglich Klimafragen: Was ist ökologisch verantwortbar?» Soziale Nachhaltigkeit bedeute, sich zu fragen, welche Lebensbedingungen angemessen seien. «Für uns heute, aber auch für künftige Generationen», so Müller. «All diese Faktoren haben dann wiederum Einfluss auf die Rahmenbedingungen, in denen wir Technologien einsetzen wollen.»
Angesprochen auf die Rolle der Kirche im Internet, gerade auf den sozialen Medien, stellt sich für Angela Müller die Frage, welches Ziel die Kirche und die kirchlichen Akteure durch ihre Web-Auftritte verfolgen: «In der Regel wollen die Plattformen die Nutzer ja zu einer möglichst langen Verweilzeit animieren. Dies geschieht oft über Inhalte, die emotional abholen.» Sie ist der Meinung, dass nicht jede Institution auf allen Social Media Kanälen vertreten sein muss. Die Kernkompetenz von sozialen Institutionen liege eher in anderen Bereichen. «Etwa bei der Gassenarbeit.»
Die Wirkung der Kirche auf den Plattformen zu untersuchen, wäre interessant, so Müller. «Das haben wir bei Algorithm Watch bisher aber nicht gemacht, deshalb kann ich nicht viel dazu sagen.»
Auch wenn heute noch nicht absehbar ist, welche Rolle die Gruppenbildung spielt, die sich derzeit auf den sozialen Medien vollzieht, scheint dennoch klar: Die Meinungsbildung wird dadurch beeinflusst. Welche Konsequenzen dies wiederum auf die Politik und Kirchenpolitik haben wird, lässt sich aber noch nicht vollständig abschätzen.
Kirche Schweiz – katholisch, aktuell, relevant
https://www.kath.ch/newsd/die-angst-vor-dem-algorithmus-ist-berechtigt/