Ob Zusammenfassungen, Social-Media-Captions, Infografiken, Bildbearbeitung, Slogans oder Denkanstöße – inzwischen ist die digitale Welt voll von KI. Um Täuschungen zu vermeiden und Nutzende transparent über den Ursprung von Inhalten zu informieren, gilt ab diesem Sommer eine Kennzeichnungspflicht für Inhalte, die für die Öffentlichkeit bestimmt sind.

Das Problem dabei ist, dass Menschen sich offenbar schon nach einer Woche nicht mehr gut erinnern können, ob sie etwas selbst erstellt haben oder sie die Aufgabe oder Teile davon der KI überlassen haben. Das hat ein Forschungsteam der Universität Bayreuth und der finnischen Aalto University in Helsinki herausgefunden.

Insgesamt 184 Studienteilnehmende haben im Experiment Texte mit oder ohne Hilfe von KI entwickelt. Nach einer Woche wurden die Teilnehmenden zur Entstehung der Idee und Ausformulierung des Textes befragt. „Besonders auffällig waren Workflows, in denen menschliche und künstliche Intelligenz gemischt wurden, also wenn die Idee von der KI stammt, die Ausformulierung jedoch vom Mensch und umgekehrt“, sagt Prof. Dr. Daniel Buschek, Inhaber des Lehrstuhls Mobile Intelligent User Interfaces an der Universität Bayreuth.

Nach sieben Tagen sinkt die Wahrscheinlichkeit, sich korrekt ans Attribut „KI-generiert“ zu erinnern, auf 37,7 %, wenn eine KI-generierte Idee vom Mensch ausformuliert wurde.
Umgekehrt besteht eine 64 prozentige Wahrscheinlichkeit, eine eigene Idee nach einer Woche korrekt als solche zu erkennen, wenn man sie anschließend von einer KI hat ausformulieren lassen.

Uni-Hausarbeiten: Entstehungsprozess lieber gleich dokumentieren

„Unsere Studie zeigt auf, dass eine rückwirkende Befragung zur Entstehung von Inhalten nicht zu realistischen Ergebnissen führt. Als Einzelperson im Umgang mit KI eignet man sich gegebenenfalls KI-Ideen als eigene an oder traut sich umgekehrt eventuell selbst weniger zu als gerechtfertigt, weil man eine eigene Idee fälschlicherweise als KI-generiert erinnert“, sagt Zindulka und weiter: „Diese Ergebnisse sollten auch in der Gestaltung von KI-Systemen sowie in den Vorgaben zur KI-Kennzeichnung bedacht werden.

Beispielsweise im universitären Kontext ist es unrealistisch, von Studierenden rückwirkend durch Erinnerung eine Offenlegung zu Details von KI-Nutzung bei Hausarbeiten zu erwarten. Sinnvoller ist es hier, von Anfang an den Entstehungsprozess von Inhalten mitzudokumentieren.“

Über ihre Erkenntnisse haben die Forschenden auf der international wichtigsten und größten Konferenz im Fachbereich Human-Computer Interaction, der CHI, berichtet.