"AI är inte särskilt bra" – nu granskar ex-Meta-chef hur konstgjord intelligens sprider felaktig information

Från Meta till AI-granskning

När ChatGPT lanserades och AI-modeller började forma hur miljoner människor får information, insåg Campbell Brown något oroande. Som Metas första och enda dedikerade nyhetsansvarig såg hon hur AI snabbt blev den kanal genom vilken all information skulle flöda. "Och den är inte särskilt bra", konstaterar hon enligt TechCrunch.

Det var startskottet för Forum AI, företaget som Brown grundade för 17 månader sedan med ett tydligt uppdrag: att granska och förbättra AI:s prestanda inom vad hon kallar "höginsatsområden" – områden där felaktig information kan få allvarliga konsekvenser.

Expertdriven utvärderingsmetod

Forum AI:s approach är både ambitiös och metodisk. Istället för att förlita sig på traditionella riktmärken fokuserar företaget på områden där sanningen inte är svart eller vit: geopolitik, mental hälsa, ekonomi och rekrytering.

Metoden bygger på att rekrytera världsledande experter som utformar utvärderingskriterier. För geopolitisk bedömning har Brown värvat tunga namn som historikern Niall Ferguson, journalisten Fareed Zakaria och tidigare utrikesministern Tony Blinken. Dessa experter skapar riktmärken som sedan används för att träna AI-domare som kan utvärdera modeller i stor skala.

Målet är att AI-domarna ska uppnå ungefär 90 procents samstämmighet med de mänskliga experterna – en teknisk utmaning som kräver både djup domänkunskap och sofistikerade utvärderingsalgoritmer.

Nedslående testresultat

De första resultaten från Forum AI:s utvärderingar målar en oroande bild av dagens AI-modeller. När företaget började testa ledande modeller upptäcktes systematiska problem med informationskvaliteten.

Ett särskilt slående exempel kom från Googles Gemini, som hämtade information från kinesiska kommunistpartiets webbsidor för artiklar som inte ens handlade om Kina. Detta visar på grundläggande brister i hur modellerna väljer och värderar sina informationskällor.

Ännu mer problematiskt är den systematiska politiska partiskheten som Brown och hennes team identifierat. Nästan alla modeller uppvisar en tydlig vänsterlutande partiskhet, vilket väcker allvarliga frågor om hur dessa system kommer påverka den demokratiska diskussionen.

Bortom teknisk prestanda

Det som gör Forum AI:s arbete särskilt relevant är fokuset på områden där det "inte finns tydliga ja- eller nej-svar, där det är oklart, nyanserat och komplext". Detta är precis de områden där AI-system ofta misslyckas men där behovet av korrekt information är som störst.

Ta geopolitik som exempel. När en AI-modell svarar på frågor om internationella konflikter eller diplomatiska relationer, handlar det inte bara om faktafel – det handlar om hur information presenteras, vilka perspektiv som lyfts fram, och vilka nyanser som försvinner.

Browns erfarenhet från Meta ger henne unik insikt i dessa utmaningar. Under hennes tid som nyhetsansvarig såg hon hur plattformar kämpar med att balansera öppenhet mot ansvar, och hur tekniska beslut får politiska konsekvenser.

Vägen framåt

Forum AI:s approach representerar ett viktigt skifte i hur vi tänker kring AI-utvärdering. Istället för att bara mäta teknisk prestanda fokuserar de på områden där AI:s påverkan på samhället är som störst.

Detta arbete kommer bli allt viktigare när AI-modeller integreras djupare i våra informationssystem. Frågan är inte längre om AI kommer forma hur vi får information, utan hur vi säkerställer att den informationen är tillförlitlig och balanserad.