Täuschend menschlich
Forschung: Oft merken Menschen nicht, dass sie getäuscht werden. KI-Gesichter erscheinen ihnen manchmal sogar menschlicher als echte Gesichter.
Gesichter, die am häufigsten als menschlich (a) und am häufigsten als KI (b) beurteilt wurden. Bild: © Miller et al./ Psychological Science,
CC-by-nc 4.0Die Gesichter weißer Menschen, die von einer KI erzeugt wurden, erscheinen uns oft als menschlicher als tatsächlich menschliche Gesichter. Das hat eine neue Forschungsarbeit, unter Leitung von Experten der Australian National University (ANU) ergeben.
In der Studie sollten Testpersonen Porträtfotos bewerten und unterscheiden: KI-generiert oder echt? Außerdem sollten sie angeben, wie sicher sie sich in ihrer Einschätzung sind. Dabei zeigte sich, dass sie vor allem weiße KI-Gesichter für menschlicher hielten als Gesichter echter Menschen. Vor allem die, die KI-Gesichter für Menschen gehalten hatten, waren sich dabei auch noch ganz besonders sicher, dass sie richtig lagen. Wer hingegen einen Menschen als Menschen erkannt hatte, war sich weniger sicher.
Bei der Bewertung von Bildern nicht-weißer Menschen konnte dieser Effekt nicht beobachtet werden. Der Grund dafür ist, dass KI-Algorithmen meist auf weiße Gesichter trainiert werden, so Dr. Amy Dawel, die Hauptautorin der Studie.
Dawel fürchtet schwerwiegende Folgen für Menschen mit nicht-weißer Hautfarbe. Denn wenn weiße KI-Gesichter für menschlicher gehalten werden, könnte dies rassistische Vorurteile im Internet verstärken. "Dieses Problem zeigt sich bereits bei den aktuellen KI-Technologien, die zur Erstellung professionell aussehender Porträts verwendet werden. Wenn die KI bei nicht-weißen Menschen eingesetzt wird, verändert sie deren Haut- und Augenfarbe in die von weißen Menschen."
Eines der Probleme mit dem "Hyper-Realismus" der KI ist, dass die Menschen oft nicht merken, dass sie getäuscht werden, so die Forschenden. Dabei sei besorgniserregend, dass die Menschen, die die KI-Gesichter am häufigsten für echt hielten, paradoxerweise auch am sichersten waren, dass ihre Einschätzungen richtig waren", so Elizabeth Miller, Mitautorin der Studie und Doktorandin an der ANU. "Das bedeutet, dass Menschen, die KI-Betrüger für echte Menschen halten, nicht wissen, dass sie getäuscht werden."
Weiße KI-Gesichter sind unproportinierter, das wird für menschlich gehalten
Die Wissenschaftler:innen fanden auch heraus, warum die KI-Gesichter die Menschen täuschen. Immer noch gibt es physische Unterschiede zwischen den KI-generierten und echten Gesichtern, nur dass die Menschen diese Unterschiede falsch interpretieren, wie Dawel erklärt. So sind weiße KI-Gesichter oft etwas unproportioniert, aber die Menschen deuten genau diesen Umstand als Zeichen von Menschlichkeit.
Weil die Technologie so schnell voranschreitet, könnte man sich zudem nicht mehr auf diese Unterschiede zwischen echten und falschen Gesichtern verlassen. Sie werden bald verschwinden, vermuten die Forscher:innen.
Sie fürchten hierdurch schwerwiegende Auswirkungen wie die Verbreitung von Fehlinformationen und Identitätsdiebstahl und halten darum Maßnahmen für unbedingt erforderlich. Die KI-Technologie dürfe nicht so abgeschottet werden, dass nur noch Technologieunternehmen wissen, was hinter den Kulissen vor sich geht. Es müsse zudem mehr Transparenz im Bereich der KI herrschen, damit Forschung und Zivilgesellschaft Probleme erkennen können, bevor sie zu groß werden. Sie fordern unter anderem Werkzeuge, die KI-Betrüger genau identifizieren könnten und eine stärkere Sensibilisierung der Öffentlichkeit. Die Aufklärung darüber, dass Menschen KI-Gesichter oft für besonders menschlich halten, könnte helfen, dass sie Gesichtern, die sie online sehen mit der nötigen Skepsis begegnen.
Die Studie wurde in Psychological Science, einer Zeitschrift der Association for Psychological Science, veröffentlicht.
Quelle:
Autorin / Autor: Pressemitteilung / Redaktion - Stand: 21. November 2023