An wen denkt ihr, wenn ihr mit der KI redet? Hat sie für euch ein Geschlecht, oder ist sie ganz neutral, weil sie ja nur aus Algorithmen besteht? Eine Studie der University of Limerick (UL) untersuchte kürzlich, ob die Art und Weise, wie KI-Assistent:innen dargestellt werden, Einfluss darauf hat, wie Menschen sie am Arbeitsplatz behandeln.

Die Forschenden unter der Leitung von Dr. Mary Hausfeld baten 189 Arbeitnehmer:innen in einem Virtual-Reality-Büro berufliche Aufgaben mit verschiedenen KI-Assistent:innen zu erledigen. Darunter befanden sich auch menschenähnliche Abbildungen, die entweder mit männlichem oder weiblichem Erscheinungsbild dargestellt wurden. Für die Erledigung der Aufgaben sollten die Proband:innen anschließend Geldbeträge zwischen sich und den KI-Assistent:innen aufteilen. So konnte untersucht werden, wie viel die Menschen bereit waren, der KI für ihre Arbeit zu zahlen.

Das Ergebnis: KI-Agent:innen, die aussahen wie eine Frau (Johanna) bekamen weniger bezahlt als ihre männlich wirkenden Pendants (Johan). Dabei verfügten die KI-Agent:innen über dieselben grundlegenden Fähigkeiten. Konkret erhielt Johanna für die Erledigung derselben Arbeit 10,25 % weniger als Johan. Und die Diskriminierung ging sogar noch darüber hinaus: Johan erhielt nicht nur mehr Geld als Johanna- er wurde außerdem auch als menschenähnlicher wahrgenommen.

Dr. Hausfeld erklärte, die Ergebnisse werfen wichtige Fragen auf, da KI-Agenten zunehmend Teil des Arbeitsalltags der Menschen werden. „Das Bemerkenswerte an unseren Ergebnissen ist, dass die Technologie hinter diesen KI-Agenten exakt dieselbe war, die Menschen sie jedoch nicht gleich behandelten. Wir halten KI oft für neutral, doch die Art und Weise, wie wir diese Systeme gestalten und präsentieren, kann genau dieselben Annahmen und Vorurteile aktivieren, die auch in unseren Interaktionen mit anderen Menschen bestehen."

Da KI-Agenten am Arbeitsplatz immer häufiger zum Einsatz kommen, müsse sorgfältig darüber nachgedacht werden, welche Eigenschaften ihnen zugeschrieben werden und welche Verhaltensweisen das nach sich zöge. "Wir wollen nicht versehentlich bestehende Ungleichheiten in einem neuen technologischen Umfeld reproduzieren“, so die Wissenschaftlerin.

Wenn KI aussieht wie ein Mensch

Die Erkenntnis zum Thema Geschlecht war Teil einer umfassenderen Untersuchung darüber, wie das menschenähnliche Erscheinungsbild von KI die Interaktionen am Arbeitsplatz beeinflusst.

Die Studienteilnehmer:innen arbeiteten mit einem textbasierten Chatbot, einem Schreibtischroboter und menschenähnlichen KI-Agenten. Obwohl allen Systemen dieselbe KI zu Grunde lag, schenkten die Testpersonen den menschenähnlichen Assistenten mehr Vertrauen und würdigten deren Beitrag stärker als den des Roboters.

Hinzu kam, dass die Forscher:innen eine erhebliche Diskrepanz zwischen Einstellung und Verhalten der Teilnehmenden feststellten: Viele hatten angegeben, dass sie eine KI bevorzugten, die eindeutig nicht-menschlich sei, und die meisten erklärten, dass ihnen das Geschlecht eines KI-Assistenten egal sei. Ihre anschließenden Bewertungen und Belohnungsentscheidungen deuteten jedoch darauf hin, dass diese Gestaltungsmerkmale ihr Verhalten doch beeinflussen konnten.

Entscheidungen hinsichtlich des Aussehens und der Darstellung von KI-Agenten sollten laut Dr. Hausfeld daher nicht einfach als ästhetische Designentscheidungen betrachtet werden. „Solche Entscheidungen können beeinflussen, wie sehr Menschen der KI vertrauen, wie sie deren Beitrag bewerten und sogar, wie sie sie finanziell belohnen.“

Die Studie wurde von Isabelle Cuber und Tarek Alakmeh von der Universität Zürich, Mary Hausfeld von der University of Limerick, Anand van Zelderen von der SKEMA Business School sowie Moritz Jenny, Jochen Menges und Thomas Fritz von der Universität Zürich durchgeführt.

Quelle

• Does the gender pay gap extend to AI? New University of Limerick research finds female AI agents ‘paid’ less