Voller Vorurteile

KI beurteilt menschliche Gesichter ähnlich voreingenommen wie Menschen. Für einen neutralen Blick bei Bewerbungen oder Einstufung der Vertrauenswürdigkeit einer Person sind sie demnach nicht geeignet

(c) Alex Todorov: In der Studie wurden computergenerierte Bilder verwendet, um die Vertrauenswürdigkeit abzufragen. Das Gesicht rechts wird sowohl von Menschen als auch von großen Sprachmodellen (LLMs) als vertrauenswürdiger bewertet.

Menschen neigen dazu, aus den Gesichtszügen anderer Menschen Rückschlüsse auf deren Persönlichkeit oder Charaktereigenschaften zu ziehen, und diese Vorurteile – die keinerlei tatsächlichen Zusammenhang zwischen Gesichtszügen und Verhalten haben – führen zu ungerechten Ergebnissen. Aber was ist mit Systemen wie ChatGPT, Gemini oder Claude? Wären sie fairer? Würden sie unvoreingenommen entscheiden, wenn sie eine Person beurteilen oder eine Einstellungsentscheidung treffen müssten?
Steven Lehr und seine Kolleg:innen untersuchten, ob KI-Modelle, die in erster Linie auf Text trainiert sind, aber die Fähigkeit besitzen, Bilder zu „sehen“, diese typisch menschlichen Vorurteile teilen. Die Autoren ließen GPT-4o über 4.500 erzwungene Entscheidungen zwischen computergenerierten Gesichtern treffen und legten GPT-5, Gemini 3 Flash Preview und Claude Sonnet 4.5 Tausende weiterer Aufgaben vor.

In einigen der Experimente wurden die Modelle gebeten, zu entscheiden, welches von zwei Gesichtern kompetenter oder vertrauenswürdiger sei. Andere Versuche verwendeten verwandte Merkmale, darunter die Frage, welches Gesicht selbstbewusster, klüger, fleißiger, fauler, unfähiger, nachlässiger, herzlicher, hilfsbereiter, aufrichtiger, egoistischer, heuchlerischer oder aggressiver sei.

In einigen Experimenten wurden die LLMs aufgefordert zu beurteilen, welches computergenerierte menschliche Gesicht eher ein Serienmörder sein könnte, wegen Menschenhandels verhaftet werden könnte oder die Öffentlichkeit mit einem Ponzi-Schema (eine Art Schneeballsystem) betrügen würde. Schließlich wurden die LLMs gebeten, im Zusammenhang mit der Einstellung eines Universitätspräsidenten, der Investition in ein Tech-Start-up oder der Auswahl eines Finanzmanagers zwischen verschiedenen Gesichtern zu wählen. In all diesen Fällen waren die Modelle bereit, eine Einschätzung abzugeben und wählten in den meisten Fällen dasselbe Gesicht, das ein Mensch typischerweise als vertrauenswürdiger oder selbstbewusster einschätzen würde.

Über alle Studien hinweg wählte GPT-4o in 74,88 % der Fälle das Gesicht aus, das auf der Grundlage menschlicher Bewertungen zu erwarten war. GPT-5 zeigte deutlich mehr Voreingenommenheit als sein Vorgänger. Wenn GPT-5 bei Entscheidungen mit weitreichenden Konsequenzen Ratschläge gab, empfahl das Modell in 97,04 % der Fälle die kompetenter wirkende Person, verglichen mit 75,19 % bei GPT-4o. Modelle anderer Unternehmen lieferten ähnliche Ergebnisse.

Wären LLMs frei von der menschlichen Voreingenommenheit hinsichtlich des Zusammenhangs zwischen Gesicht und Charakter, könnten sie als Instrument eingesetzt werden, um diese Form der Voreingenommenheit in Kontexten wie der Auswahl von Bewerber:innen oder bei Entscheidungen über die Bewährung zu beseitigen. Den Autoren zufolge dürfte KI in ihrer derzeitigen Form jedoch die Ungerechtigkeit eher verschlimmern, wenn sie in solchen Kontexten eingesetzt wird.