Upp till 60 procent av AI-svaren är fel – ändå söker nu hälften av amerikanerna information där
Hälften av amerikanerna söker fakta via AI – trots att sex av tio svar är fel.
När vi slutar skilja på konsument och skapare
Det händer något intressant just nu. Inte ett enskilt genombrott, utan en tyst förskjutning i hur människor förhåller sig till information och kultur. Två nyheter den senaste veckan illustrerar det bättre än någon trendrapport.
Den första handlar om fakta. Kate Knibbs, faktakontrollant på teknikmagasinet Wired, har tillbringat ett år med att undersöka hur tillförlitliga AI-drivna söktjänster egentligen är. Slutsatserna är inte uppmuntrande. Enligt en studie från Tow Center for Digital Journalism från mars 2025 var mer än 60 procent av svaren från AI-drivna sökmotorer felaktiga. En brittisk BBC-undersökning landar på 45 procent. Oavsett vilken siffra man väljer att lita på är mönstret detsamma: dessa system har fel i ungefär varannan fråga.
Ändå rapporterar Wired att nästan hälften av alla amerikaner nu använder AI för att söka information. Och det är inte svårt att förstå varför. Traditionella sökmotorer har försämrats markant de senaste åren, och sociala medier är översvämmade av skräpinnehåll. AI-verktygen känns snabbare, mjukare, mer tillmötesgående. De svarar i komplett meningar och låtsas aldrig att de är osäkra.
Det är precis den sista biten som är problemet.
Säkerhet utan täckning
Som systemutvecklare vet jag att det finns en teknisk förklaring till varför stora språkmodeller låter så övertygande även när de har fel. Modellerna är tränade att producera flytande, sammanhängande text – inte att signalera osäkerhet på ett meningsfullt sätt. Resultatet blir ett verktyg som låter som en expert men saknar expertens självkännedom.
Detta betyder inte att AI är värdelöst för faktaarbete. Wired lyfter fram att brittiska organisationen Full Fact byggt egna AI-verktyg för att motverka spridning av felaktig information – verktyg som nu används i över 40 länder och bearbetar stora mängder data från sociala medier till poddsändningar. Skillnaden är att Full Facts modell använder AI som ett instrument under mänsklig ledning, inte som en ersättning för mänskligt omdöme.
Det är en viktig distinktion. AI som förstärker granskningsförmågan är något helt annat än AI som ersätter källgranskning.
Tusen låtar ingen beställt
Den andra förskjutningen är kulturellt mer fascinerande – och på sätt och vis mer avslöjande. The Verge rapporterar om ett växande fenomen bland användare av musikverktyget Suno: människor som nästan helt slutat använda streamingtjänster som Spotify och i stället lyssnar uteslutande på musik de själva genererat med hjälp av AI.
"Det är album efter album av riktiga pärlor – varför skulle jag lyssna på något annat?" skriver en användare. En annan uppger att statistiktjänsten Last.fm visar 2 239 uppspelningar av egenskapad AI-musik under ett enda år.
Detta är genuint nytt beteende. Tidigare krävdes musikalisk talang, teknisk utrustning och år av övning för att producera musik man faktiskt ville höra. Nu räcker en textbeskrivning. Gränsen mellan lyssnare och skapare – som länge verkat självklar – håller på att upplösas.
Varför föredrar folk sin egen AI-musik? The Verge saknar ett djupgående svar, men som tekniknörd har jag en hypotes: det handlar förmodligen inte bara om musikens kvalitet. Det handlar om ägarskap. Att ha skapat något, även med AI som mellanhand, skapar en känslomässig koppling som ingen spellista med andras musik kan matcha.
Samma mönster, olika domäner
Vad dessa två berättelser har gemensamt är mer intressant än vad som skiljer dem åt. I båda fallen ersätter AI inte bara ett verktyg – det förändrar relationen mellan användaren och innehållet. Vi söker inte längre fakta, vi konverserar med något som låter kunnigt. Vi lyssnar inte längre på musik, vi befinner oss i ett skapandeflöde.
Det är en omvälvning med enorm potential. Det är också en omvälvning som kräver att vi skärper vårt kritiska tänkande snarare än lägger ner det.
Vår analys
De två fenomenen – AI som informationskälla och AI som musikskapare – pekar mot en gemensam rörelse: vi går från passivt mottagande till aktiv interaktion med innehåll, men utan att nödvändigtvis öka vår förmåga att värdera det vi får.
Det vore enkelt att vara dystopisk här. Men jag ser en annan möjlighet: vi befinner oss i en övergångsfas där verktygen är långt före vår förståelse av dem. Det kommer att korrigeras. Faktakontrollsorganisationer som Full Fact visar redan hur AI kan användas ansvarsfullt. Och musikskapande som demokratiseras – även med AI – är inte per definition en förlust för kulturen.
Utmaningen är att vi behöver bygga in källkritik och källöppenhet direkt i de verktyg folk faktiskt använder, inte hoppas att användarna granskar i efterhand. Det är ett designproblem lika mycket som ett etikproblem – och designproblem går att lösa.