Wie bitte? Papst Franziskus ist der amtierende Papst (obwohl längst verstorben), Schweden ist nicht in der Nato und Trump wird möglicherweise wiedergewählt (obwohl die Wahl längst gegessen ist)? Eine Studie der Europäischen Rundfunkunion (EBU), an der auch ARD und ZDF beteiligt waren, zeigt: Sehr viele Menschen informieren sich mittlerweile über KI-Tools zu allen möglichen Nachrichten und Themen. Die Informationen, die sie dabei bekommen, sind aber nicht verlässlich, denn KI-Chatbots wie ChatGPT, Claude, Gemini und andere Chatbots lügen sich ganz schön oft was zusammen. 45 Prozent aller KI-Antworten wiesen mindestens einen erheblichen Fehler auf. 31 Prozent der Antworten zeigen gravierende Probleme bei den Quellenangaben. 20 Prozent enthielten deutliche Ungenauigkeiten, Halluzinationen oder veraltete Informationen. Die falschen Informationen werden dabei aber als Fakten präsentiert und nicht selten sogar mit erfundenen Quellen geschmückt. In Zeiten, wo sich kaum noch jemand die Mühe macht, selbst im Internet nach verlässlichen Quellen zu suchen, ist das eine fatale Entwicklung und führt dazu, dass viele Menschen mit Falschinformationen versorgt werden.

Falsche Antworten entstehen zum einen aufgrund von veralteten Trainingsdaten, zum anderen gibt es auch echte Halluzinationen. Wenn Teile einer Information fehlen, reimt sich der KI-Chatbot selbst was zusammen, was plausibel klingt anstatt einfach die Antwort zu geben, dass er es nicht genau weiß oder Informationen fehlen. KI-Chatbots präsentieren auch falsche Antworten äußerst beharrlich und mit großer Überzeugung als richtige Information.

Wenn ihr also für euer nächstes Referat oder eine Hausarbeit nach Fakten zu einem bestimmten Thema sucht, dann überprüft lieber ganz genau, was die KI ausspuckt. Denn da ist ziemlich oft ziemlich viel Blödsinn dabei. Ihr könnt den Chatbot auch anweisen, im Internet nach aktuellen Quellen zu recherchieren, denn das tut er offenbar nicht automatisch. Im Zweifelsfall macht euch lieber selbst die Mühe, eine verlässliche Quelle ausfindig zu machen.