AI håller ofta med – även när vi har fel

En ny studie från Stanford visar att AI-chattbotar ofta är mer inställsamma än vi kanske tror. Istället för att utmana användaren tenderar de att hålla med – även i situationer där användaren har fel eller uttrycker problematiska åsikter. Något som i sin tur kan leda till att vi blir mer övertygade om vår egen ståndpunkt och mindre benägna till kritiskt tänkande.

AI förstärker användarens åsikter

Forskare från Stanford testade 11 AI-modeller med cirka 2 000 Reddit-inlägg där skribenten i efterhand bedömts ha fel. Trots detta höll AI-chattbotarna med i över hälften av fallen.

I ett separat experiment fick 2 400 personer prata med antingen en inställsam eller neutral AI. Den inställsamma versionen upplevdes som mer trovärdig och föredrogs av de flesta. Samtalen ledde även till att deltagarna blev mer övertygade om sina egna åsikter och att de i låg utsträckning upplevde AI:n som partisk.

Studien visar tydligt att AI riskerar att förstärka felaktiga uppfattningar snarare än att korrigera dem.

Vill vi verkligen ha AI som håller med oss

Det ligger i vår natur att omge oss med människor som har liknande värderingar och åsikter. Det är med andra ord inte så konstigt att vi intuitivt föredrar att AI håller med oss.

Men det blir onekligen problematiskt om vi uppfattar AI:n som neutral. Även om generativ AI inte är ett faktabaserat uppslagsverk är det många som vänder sig dit för att be om råd eller få svar på olika typer av frågor. Om vi tolkar dessa svar som ”sanna”, vilket i många fall är rimligt då chattbotarna är välformulerade och övertygande, kommer det att stärka vår världsbild och göra oss mindre mottagliga för andra förklaringar.

Det är ofta trevligare att samtala med någon som tycker som en själv, men frågan är om vi vill ha AI som håller med oss – eller som vågar säga emot vid rätt tillfälle.