Ny studie: AI-tillgång mer än fördubblat självförtroendet — men andelen rätta svar nästan halverades

Det obekväma med att inte veta

Det finns något djupt mänskligt i att erkänna sin okunnighet. 'Jag vet inte' är inte ett nederlag — det är ett tecken på god självkännedom och intellektuell ärlighet. Men vad händer med den förmågan när vi alltid har ett verktyg till hands som verkar ha ett svar på allt?

Svaret, enligt en ny studie refererad av The Decoder, är oroande: den försvinner nästan helt.

Siffrorna som stannar kvar

Studien undersökte hur tillgång till AI påverkar mänskliga bedömningar och självkännedom. Resultaten är svåra att ignorera. I kontrollgrupperna — där deltagarna saknade AI-tillgång — valde mellan 36 och 44 procent att avstå från att svara på frågor de var osäkra på. Ett rimligt beteende: hellre tiga än tala utan grund.

Med AI-tillgång rasade den siffran till mellan 3 och 6 procent.

Deltagarna slutade alltså nästan helt att signalera osäkerhet — men det blev inte bättre svar för det. Andelen korrekta svar sjönk från 27,6 till 10,0 procent. Självförtroendet, däremot, sköt i höjden: från 29,6 till 75,9 poäng på en hundragradig skala.

Mer säkra. Mer fel. Det är en kombination som borde få varningslampor att blinka.

Vad händer i hjärnan?

Som systemutvecklare har jag länge fascineras av det som brukar kallas automation bias — tendensen att lita mer på ett automatiserat systems utslag än på sitt eget omdöme. Det är ett välkänt fenomen inom flygbranschen och medicinsk diagnostik. Nu ser vi alltså samma mekanism aktiveras i vardagliga kunskapsbedömningar.

Problemet är inte att AI ger fel svar ibland — det gör alla informationskällor. Problemet är vad som händer med användarens inre kalibrering. När ett verktyg alltid serverar ett svar, slutar vi öva på att känna skillnaden mellan det vi vet och det vi tror oss veta. Den muskeln, om man får kalla den så, verkar atrofiera snabbt.

Forskarna testade också en intressant variant: att visa AI-svar automatiskt, utan att användaren aktivt behövde efterfråga dem. Effekten var i princip densamma som när användaren själv sökte råd. Det speglar en verklighet vi redan lever i — sökmotorer som fyller i meningar, skrivverktyg som föreslår formuleringar, assistenter som svarar innan frågan är klar.

Ekonomiska incitament hjälper — men räcker inte

När forskarna lade till ekonomiska incitament — tio cent för rätt svar, minus tio cent för fel, och ingenting för 'vet ej' — förbättrades resultaten. Deltagarna blev mer selektiva i när de sökte AI-råd och träffade rätt oftare. Men klyftan jämfört med gruppen utan AI försvann aldrig helt.

Det är ett viktigt fynd. Det antyder att vi kan bli mer kritiska i vår AI-användning om vi har starka skäl att vara det — men att standardläget, utan sådana incitament, är att lita okritiskt på vad verktyget säger.

I de flesta verkliga situationer saknas den typen av omedelbar återkoppling. Vi får sällan reda på direkt om ett AI-genererat svar var fel. Och utan den återkopplingen finns ingen naturlig korrektion.

Inte ett skäl att kasta verktygen — men att använda dem bättre

Jag vill vara tydlig: jag ser inte det här som ett argument mot AI-verktyg. De är genuint kraftfulla och har redan förändrat hur jag och många andra arbetar till det bättre. Men den här studien påminner oss om att verktyg formas av hur vi använder dem — och att en alltid tillgänglig svarsmaskин kan göra oss sämre på något som egentligen är en grundläggande kognitiv färdighet.

Att veta vad man inte vet är inte bara en dygd. Det är en förutsättning för att kunna lära sig något nytt.