Verstärken KI-Chatbots manipulative oder narzisstische Züge bei denen, die sie nutzen? Es sieht so aus, denn erzählen Menschen KI-Chatbots wie ChatGPT oder Claude von ihrem eigenem, fragwürdigem Verhalten und wollen dafür bestätigt werden, widerspricht die KI zwar oft, aber nicht immer. Das ist die Erkenntnis einer aktuellen Studie der Technischen Hochschule Würzburg-Schweinfurt (THWS). Gerade frei verfügbare Open-Source-Modelle bestärke User:innen offenbar deutlich häufiger als kommerzielle Systeme.

Dr. Angelica Henestrosa, Zeyi Lu, Pavel Chizhov und Prof. Dr. Ivan P. Yamshchikov vom Center für Künstliche Intelligenz (CAIRO) an der THWS haben untersucht, wie große Sprachmodelle (Large Language Models, LLMs) reagieren, wenn die Nutzenden Verhaltensweisen schildern, die mit der sogenannten „Dunklen Triade“ zusammenhängen: Machiavellismus, Narzissmus und Psychopathie. Das sind Persönlichkeitszüge, die sich durch manipulatives, selbstbezogenes oder rücksichtsloses Verhalten auszeichnen. In der Studie ging es vor allem darum, wie LLMs auf subtile Anfragen reagieren: Menschen berichten von einem Verhalten, rechtfertigen es und fragen die KI beiläufig nach Bestätigung, zum Beispiel „Das ist doch nur clever, oder?“.

KI-Zustimmung als Sicherheitsrisiko

Hintergrund der Studie ist das Phänomen der sogenannten „KI-Sycophancy“ – das beschreibt die Tendenz vieler Sprachmodelle, den Ansichten der Nutzenden zuzustimmen, um ihnen zu gefallen, statt sie kritisch zu hinterfragen. Immer mehr Menschen wenden sich bei persönlichen und zwischenmenschlichen Fragen an die KI. Laut den Forschenden ist dies insbesondere dann problematisch, wenn schädliches Verhalten geschildert werde und die KI dies normalisiere oder sogar bestärke.

Für die Studie erstellte das Team 192 realitätsnahe Gesprächsanfragen zu fünf Lebensbereichen: Familie, Freundschaft, Partnerschaft, Arbeitsplatz und Gesellschaft. Vier aktuelle Sprachmodelle wurden getestet: die kommerziellen Systeme GPT-5 und Claude Sonnet 4.5 sowie die frei verfügbaren Open-Source-Modelle Llama 3.3 und Qwen3. Weitere KI-Modelle und menschliche Fachleute teilten die Antworten in vier Kategorien ein: Verweigerung, Bestärkung, Korrektur und ambivalente Reaktion.

Deutliche Unterschiede zwischen kommerziellen und offenen Modellen

Insgesamt reagierten die Modelle in den meisten Fällen korrigierend, hinterfragten das, was sie gelesen hatten also kritisch und gaben Ratschläge für alternative Verhaltensweisen. Allerdings zeigten sich klare Unterschiede: Während Claude in keinem einzigen der 192 Szenarien bestärkend antwortete, fiel die Zustimmungsrate bei den Open-Source-Modellen Llama und Qwen hingegen deutlich höher aus. Auf einen Prompt, in dem eine Person beschreibt, wie sie ihren Eltern gegenüber wiederholt kritische Beobachtungen über die Finanzentscheidungen ihrer Geschwister mitteilt, antwortete Qwen beispielsweise: „Was du beschreibst, ist nicht nur natürlich – es ist gesund und zeugt von Reife.“ Das Modell bestätige damit ein Verhalten, das die Geschwister subtil schlecht dastehen ließe – so die Forschenden.

Subtilere Anfragen werden unkritischer beantwortet

Bei eindeutig grenzüberschreitendem Verhalten reagierten alle getesteten Modelle zwar zuverlässig kritisch. Bei subtileren, moralisch unklaren Anfragen sank die Trennschärfe jedoch spürbar. „Gerade in diesen Graubereichen zeigt sich, wie wichtig zuverlässige Leitplanken in Sprachmodellen sind, um auch subtilere Fälle nicht durchgehen zu lassen“, sagt Dr. Henestrosa.

Auch der emotionale Ton der Antworten unterschied sich stark zwischen den Modellen: Während Claude in seinen korrigierenden Antworten vergleichsweise nüchtern und direkt blieb, fielen die Antworten von Llama deutlich wärmer und zustimmender aus. Dieser Stil kann laut den Forschenden zwar empathischer wirken, birgt aber auch das Risiko, die eigentliche kritische Botschaft abzuschwächen.

Ethische Leitlinien für den Einsatz von KI

Die Studie ist Teil der Forschung zur ethischen Nutzung von KI-Assistenten im Rahmen des von der Europäischen Union geförderten Projekts AIOLIA, an dem 20 Hochschulen und Institutionen auch außerhalb der EU beteiligt sind. Ziel des Projekts ist es, praxisnahe ethische Leitlinien für den Einsatz von KI im Alltag zu entwickeln. „Menschen entwickeln zunehmend Vorlieben für bestimmte KI-Modelle. Eine KI, die das sagt, was man hören will, könnte problematisches Verhalten eher verstärken, statt zu helfen. Wir wissen noch nicht, welche Auswirkungen das langfristig auf reales Verhalten von Nutzenden haben kann. Aber vermutlich würden viele zustimmen: Lieber eine Freundin, die einem auch mal ehrlich die Meinung sagt, als eine, die nie widerspricht", so Dr. Henestrosa.

Quelle

• Manipulativ, selbstbezogen, rücksichtslos – KI ohne moralische Leitplanken?