Studie: KI-Bestätigung bei sozialen Konflikten

KI-Sprachmodelle sind grundsätzlich sehr bestätigend gestaltet. Das zeigt sich unter anderem darin, dass auf geteilte Ideen – ohne ein gezielt anders Prompting – tendenziell bestärkend und unterstützend reagiert wird. Außerdem kann in einem Chat sehr einfach erreicht werden, dass ein KI-Sprachmodell eine eigentlich falsche Aussage als korrekt einordnet, wenn man selbst nur immer wieder darauf beharrt. Im Bildungskontext habe ich über diese bestätigende Gestaltung schon häufig in der Art und Weise gelesen, dass das ein Problem sei, weil dann eben potentiell kein hinterfragendes, kritisches Lernen möglich ist und weil auch einfach immer wieder falsche Informationen als richtig eingeordnet werden. Wenn Lernende sich ein Thema fremdbestimmt und ohne eigene Bezüge mit KI-Sprachmodellen erschließen sollen, führt das zu Problemen. Für mich zeigte sich daran wieder einmal, dass KI im Bildungskontext nicht nur auf Ebene der Nutzung, sondern auch auf Ebene der Lernkultur reflektiert werden…