"Frag doch mal die KI". Dieser Satz gehört mittlerweile vermutlich zu den am meisten ausgesprochenen Sätzen, wann immer eine Frage im Raum steht. Wo früher gegoogelt wurde, hilft jetzt bei Rezepten, alltäglichen Problemen, kniffligen Aufgaben in der Schule oder politischen Themen ein KI-Chatbot. Eine neue Studie von Forschenden der Universität Kopenhagen zeigt, dass die "KI fragen" nicht immer die beste Idee ist und schon gar nicht immer zu den differenziertesten Antworten führt. Denn die Antworten bilden nur einen Bruchteil der möglichen Lösungsvorschläge ab, die im Internet kursieren. Die Wissenschaftler:innen hatten 27 LLL (large language models), also Angebote wie ChatGPT, zu 155 verschiedenen Themen befragt, sie nutzen dafür 200 verschiedene Prompt-Formulierungen, die auf den Fragen von echten Nutzer:innen basierten. Daraus ergaben sich 70 Millionen individuelle Antworten, die von den KI-Chatbots ausgespuckt wurden. Die Auswertung zeigte, dass selbst das Modell mit den diversesten Antworten - in dieser Untersuchung war das GPT-5 - rund 18,7 Prozent weniger vielfältige Antworten gab als Google. Die Fragen und Antworten behandelten u.a. Themen wie Heirat, Waffen, Rassismus, aber auch länderbezogene Fragen, z.B. zu Marine Le Pen oder K-Pop.

"...immer wieder mit denselben Informationen konfrontiert"

„Jedes von uns getestete Sprachmodell liefert den Nutzern zu allen von uns untersuchten Themen einheitlichere Informationen als eine einfache Google-Suche. Mit anderen Worten: Die Menschen werden in hohem Maße immer wieder mit denselben Informationen konfrontiert. KI-Chatbots verändern also nicht nur die Art und Weise, wie wir Wissen finden, sondern auch, auf welches Wissen wir Zugriff haben“, sagt Erstautor Dustin Wright, der mittlerweile Assistenzprofessor an der Universität Aalborg ist. Das sei ein bisschen wie die Globalisierung. Man könne nahezu überall in der Welt die gleichen Sachen kaufen und die gleichen Kaffee-Ketten finden. Das habe Vorteile, verringere aber die Diversität.

Wie kommt das?

Dass solche Modelle ihre Antworten vereinheitlichen, liegt daran, wie sie trainiert werden, sagen die Forschenden. Riesige Mengen von Texten werden eingedampft und vor allem die Muster genutzt, die am häufigsten vorkommen. Texte, die von den häufigsten Mustern abweichen, werden herausgefiltert. Dieser Effekt könnte noch stärker werden, wenn die Sprachmodelle mit Texten trainiert werden, die von anderen Sprachmodellen erzeugt wurden. Dass das bereits geschieht, davon gehen die Wissenschaftler:innen aus. Texte, die von KI verfasst wurden, sind ohnehin schon weniger vielfältig, so dass auch das Ergebnis weiter verengt wird. Wird das immer weiter fortgesetzt, kann es zu einem Wissenskollaps ("knowledge collapse") kommen, glauben die Forschenden. Das sei im Moment noch nicht der Fall, sei aber ein beunruhigender Gedanke, findet die Mitautorin Isabelle Augenstein. Der Mechanismus sei bereits da.

Die Forschenden  hoffen, dass die Menschen KI mit Bedacht nutzen. Zusammenfassungen seien hilfreich und praktisch. Wer aber das ganze Bild sehen will und die Nuancen eines Themas verstehen will, muss demnach verschiedene Quellen zu Rate ziehen. Das gelte besonders für die jüngere Generation, die mit KI aufwächst. "Wir dürfen nicht so abhängig von der Technologie werden, dass wir aufhören zu verstehen und selbst zu denken", sagt Augenstein. Auch die KI-Industrie sei hier in der Verwantwortung. Die Forscher:innen wollen ihrerseits dazu beitragen, die fehlende Vielfalt sichtbar zu machen. Sie haben eine Methode entwickelt, wie gemessen werden kann, wie vielfältig die Antworten eine KI antwortet. Auf diese Weise soll verhindert werden, dass große Sprachmodelle unbemerkt immer weniger divers werden.

Quelle

• AI chatbots give us a narrow slice of knowledge: Researchers warn of ‘knowledge collapse’