Die Schülerinnen und Schüler von heute sind die ersten „KI-Natives“, die mit generativer Künstlicher Intelligenz (GenKI) aufwachsen und sie selbstverständlich nutzen. Aber wie denkt diese Generation über Künstliche Intelligenz. Traut sie ihr alles zu, hält sie sie für allwissend und unfehlbar? Und haben diese Fehleinschätzungen Bestand oder entwickeln die Schüler:innen ein kritisches Bewusstsein?
Eine aktuelle Studie am Hector-Institut für Empirische Bildungsforschung der Universität Tübingen hat sich diesen Fragen gewidmet:
„Unsere zentrale Forschungsfrage war, ob sich die Vorstellungen der Schülerinnen und Schüler durch praktische Erfahrungen bei der Nutzung von KI über die Zeit hinweg zu einer angemessenen, eher kritischen Bewertung entwickeln“, sagt Dr. Ann-Kathrin Jaggy.

In ihrer Studie fragten die Forschenden Schülerinnen und Schüler, wie diese sich generative KI vorstellen, um Fehlvorstellungen und etwaige Änderungen darin zu erfassen. Für die Studie wurden 870 mathematisch-naturwissenschaftlich talentierte Schülerinnen und Schüler der Klassenstufen sechs bis acht in den Jahren 2023 und 2024 befragt, die von ihren Lehrkräften für das Begabtenförderprogramm „Hector-Seminar” nominiert wurden.

KI ist nicht unfehlbar, aber schlauer als die Lehrkraft?

„Insgesamt zeigen unsere Ergebnisse, dass zwar nur wenige Jugendliche KI für allwissend halten, ihr aber häufig eine immense Wissensautorität zuschreiben“, sagt Ulrich Trautwein. Im Jahr 2023 stimmten rund 13 Prozent der Schülerinnen und Schüler der Aussage zu, „KI weiß alles“; 2024 waren es rund zehn Prozent. Der Aussage „KI macht keine Fehler“ stimmten 2023 knapp zehn Prozent und 2024 rund sechs Prozent zu.

„Deutlich höher fiel die Zustimmung zur Aussage aus, dass KI mehr wisse als die eigenen Lehrkräfte“, sagt Trautwein. „Dem stimmten 39 Prozent im Jahr 2023, beziehungsweise 34 Prozent im Folgejahr zu. Mit Blick auf die rasanten Fortschritte der KI-Technologie lässt sich diese Einschätzung auch zunehmend weniger eindeutig als Fehlvorstellung einordnen.“

Wer gerne denkt, ist im Vorteil

Die Daten der Jugendlichen, die an beiden Befragungen teilnahmen, zeigen, dass sich der Mythos der allwissenden KI häufig nicht von allein auflöst. „Obwohl die Jugendlichen im Alltag – sei es durch Medienberichte, den Unterricht oder die eigene Nutzung – durchaus mit der Fehlbarkeit von KI-Modellen konfrontiert wurden, passen sie ihre Vorstellungen von den Fähigkeiten und Grenzen generativer KI meist nicht an“, sagt Thorben Jansen. „Die Schülerinnen und Schüler, die 2023 Fehlvorstellungen hatten, hielten an diesen meist auch im Folgejahr fest.“

Die Fehlvorstellungen über die Allwissenheit generativer KI waren bei Schülerinnen und Schülern mit gutem Abschneiden in kognitiven Tests, einer stärkeren Freude an anspruchsvollem Denken und einer größeren Offenheit für neue Erfahrungen seltener. Wenn zunächst Fehlvorstellungen bestanden, wurden sie bei diesen kognitiv begabten Schülerinnen und Schülern darüber hinaus zwischen 2023 und 2024 häufiger als in anderen Gruppen korrigiert.

Glauben an unfehlbare Technologie macht anfällig für Fehlinformationen

„Die Ergebnisse legen nahe, dass diese besonders begabten Schülerinnen und Schüler ihre Erfahrungen mit generativer KI eher nutzen, um bestehende Vorstellungen kritisch zu überprüfen“, sagt Jaggy. „Bildungsungleichheiten könnten sich so verschärfen: Schülerinnen und Schüler, die ohnehin kognitiv stark sind und Freude an anspruchsvollem Denken haben, entwickeln schneller ein realistisches Bild von den Grenzen der KI. Jugendliche mit weniger kognitiven Ressourcen hingegen bleiben anfälliger für den Glauben an eine unfehlbare Technologie – und damit für Fehlinformationen.“

„Unsere Studie konzentrierte sich auf besonders begabte Schülerinnen und Schüler, was die Ergebnisse nur bedingt allgemein übertragbar macht“, sagt Co-Autor Jansen. „Dennoch lässt sich daraus ein Appell an die Bildungspolitik und die Schulen ableiten: Wir dürfen uns nicht darauf verlassen, dass Jugendliche allein durch das bloße Ausprobieren und die alltägliche Nutzung von Tools wie ChatGPT lernen, diese kritisch zu hinterfragen.” Jaggy ergänzt: „Fehlvorstellungen über generative KI müssen im Unterricht gezielt sichtbar gemacht und aktiv bearbeitet werden. Schülerinnen und Schüler sollten systematisch darin gefördert werden, KI-Antworten zu prüfen, Fehler und Halluzinationen zu erkennen und die Leistungsfähigkeit sowie die Grenzen der Technologie realistisch einzuschätzen.“

Quelle

• Fehlvorstellungen über KI drohen Bildungsunterschiede zu verschärfen