För ett drygt decennium sedan genomförde sociala media-företaget Facebook (numera Meta) kontroversiella experiment på användare för att se huruvida de kunde påverka användarnas känsloläge. Facebook manipulerade exempelvis nyhetsflödet till att visa fler negativa inlägg. Följden blev en tydlig minskning av användarnas välbefinnande.
Några år senare kom Cambridge Analytica-skandalen (uppmärksammad i samband med Brexit och Trump-valet 2016) där företaget skapade psykologiska profiler med Facebook-data. Genom att utnyttja människors ”inre demoner” (en metafor för psykologiska sårbarheter) kunde både kommersiella och politiska aktörer skräddarsy sina budskap.
I en ny kontroversiell studie testade forskare hur storskaliga språkmodeller kan påverka människors åsikter. På Reddit-forumet ”r/changemyview”, där användare utmanar varandra att ändra sina ståndpunkter, analyserades tusentals inlägg av olika AI-modeller. De mest övertygande svaren – anpassade utifrån gissningar om användares ”kön, ålder, etnicitet, plats och politisk orientering” – postades sedan.