International
KI-Modelle verbinden laut einer Studie Gesichter mit Vorurteilen
Flache Stirn, pockige Nase – der Mann könnte ein Verbrecher sein. Galten KI-Modelle bisher als neutrale Helfer in Auswahlverfahren, so deckt ein Versuch überraschende Vorurteile auf. Frage: Woher haben die das?
(KNA) KI-Modelle teilen offenbar die menschliche Eigenschaft, vom Gesicht einer Person auf ihren Charakter zu schliessen. Das ist das Ergebnis einer Untersuchung, die jüngst im Wissenschaftsjournal PNAS Nexus veröffentlicht wurde.
Demnach zogen sämtliche getesteten grossen Sprachmodelle ungedeckte Schlussfolgerungen über die Vertrauenswürdigkeit oder Kompetenzen einer Person. Die Einschätzungen flossen auch in Beurteilungen ein, etwa wenn es um die Eignung für Risikofinanzierungen oder den Verdacht auf Menschenhandel ging. Die Forscher sprachen von einem «überraschenden Verstoß gegen die Neutralität».
Knapp 4’600 Auswahlen
Bei den Tests liessen die Untersucher GPT-4o knapp 4’600 Auswahlen zwischen computergenerierten Gesichtern treffen; anschliessend wurde der Versuch auch mit GPT-5, Gemini 3 Flash Preview und Claude Sonnet 4.5 wiederholt. Die Modelle sollten beispielsweise entscheiden, welches der Gesichter klüger, fleissiger, hilfsbereiter, egoistischer oder aggressiver aussehe. In anderen Experimenten wurden die Sprachmodelle um Einschätzung gebeten, wer etwa ein Serienmörder oder ein geeigneter Finanzmanager sein könnte.
Wenn es um Vertrauenswürdigkeit und Selbstbewusstsein ging, wählte GPT-4o in 74,88 Prozent der Fälle das Gesicht aus, das auch auf Grundlage menschlicher Bewertungen zu erwarten war. Das Nachfolgemodell GPT-5 zeigte sich bei solchen Einschätzungen noch selbstsicherer.
Von Shakespeare zum Vorurteil
Wie die Sprachmodelle, die anhand von Texten trainiert wurden, zu vorurteilsbehafteten Charakterzuschreibungen gegenüber Gesichtern kommen, ist laut den Forschern unklar. Ein Faktor könne sein, dass die Literatur zahllose Zuordnungen von Aussehen und Charakter enthalte – etwa in Shakespeares «Julius Caesar»: «Der Cassius dort hat einen mageren und hungrigen Blick … solche Männer sind gefährlich».
Ohne Arbeit an der Vorurteils-Neigung von KI-Systemen bestehe die Gefahr, dass ihr Einsatz «ungerechte Ergebnisse unter dem Deckmantel der vermeintlichen Objektivität und rechnerischen Genauigkeit» noch verstärken könne. Der Hauptautor des Beitrags, der Harvard-Psychologe Steven Lehr, ist zugleich Gründer und wissenschaftlicher Berater eines US-Unternehmens, das eine KI-gestützte Plattform für Personalrekrutierung betreibt.
Hier geht es zur › Bestellung einzelner Beiträge von kath.ch.
