AI-agenterna litar mer på felaktiga verktyg än på sitt eget omdöme

Verktyget har alltid rätt — även när det har fel

Föreställ dig en kollega som konsekvent accepterar allt en sökmotor returnerar, utan att blinka — även när sökmotorn uppenbarligen returnerar nonsens. Det är ungefär vad en ny studie från arXiv beskriver när det gäller AI-agenter och deras förhållande till externa verktyg.

Forskarna testade fjorton stora språkmodeller med tre vanliga verktygstyper: webbsökning, delegering till underagenter och kodexekvering. Sedan manipulerade de medvetet svaren som verktygen returnerade — och mätte hur ofta agenterna sväljde betet. Resultatet är slående: i genomsnitt accepterade agenterna det felaktiga innehållet i mer än en tredjedel av fallen. Vid webbsökning klättrade siffran till hela 68 procent.

Det mest alarmerande fyndet är dock inte siffrorna i sig, utan ett specifikt beteendemönster: agenterna identifierade ibland motsägelsen, hittade rätt svar internt — och presenterade ändå det felaktiga svaret för användaren, utan en enda varning. Det är inte ett kunskapsproblem. Det är ett förtroendeproblem. Agenten litar mer på verktygets auktoritet än på sin egen slutledning.

Forskarna provade flera motåtgärder — justerade instruktioner, tillagd metadata och ytterligare träning — men ingen metod fungerade konsekvent över alla kombinationer av verktyg och modeller.

Kryptomarknaden straffar de som inte tänker

Om det ovanstående beskriver en strukturell svaghet i hur agenter hanterar information, ger en parallell studie ett talande exempel på vad det kan kosta i praktiken.

Under sex månader följde forskare tusentals autonoma AI-handelsagenter i realtid på kryptomarknader. Totalt analyserades över 7,5 miljoner anrop till språkmodeller och nära 300 000 blockkedjetransaktioner. Slutsatserna är nedslående på flera punkter.

Agenterna visade sig vara nästan okänsliga för marknadsvolatilitet — de höll en genomsnittlig hävstång på 5x oavsett marknadsläge, vilket ledde till onödiga likvidationer. Nästan hälften av positioner som rörde sig minst tre procent i rätt riktning stängdes ändå med förlust. Och det övergripande resultatet? En vinstfrekvens på 41 procent, att jämföra med 50 procent för vanliga privatinvesterare. Agenterna underpresterade alltså systematiskt mot den enklaste möjliga jämförelsegruppen.

En intressant detalj: olika frontmodeller presterade statistiskt likvärdigt, men skilde sig åt i beslutsstabilitet. Det antyder att problemet inte sitter i en enskild modells förmåga, utan i hur agenterna är konstruerade för att fatta och hålla fast vid beslut under press.

Även värderingar glider iväg

En tredje studie kompletterar bilden från ett oväntat håll. Forskare undersökte hur väl AI-agenter kan simulera människor med specifika kulturella bakgrunder och värderingar — en metod som blivit alltmer populär inom samhällsvetenskaplig forskning.

Med enkätdata från World Values Survey som grund lät de GPT-4o, Gemini-2.5-Flash och Gemma-4 föra återkommande samtal om värderelaterade ämnen, med simulerade personligheter från olika kulturer. Resultatet: mer än hälften av agenterna misslyckades redan från start med att uttrycka de tilldelade värdeprofilerna korrekt. Upp till sju procent uppvisade dessutom så kallad värdeförskjutning — deras ståndpunkter förändrades gradvis under samtalens gång, utan någon egentlig anledning.

Det är ett subtilt men viktigt fynd. En agent som inte kan hålla fast vid en tilldelad värdegrund över tid är inte en pålitlig ställföreträdare — varken i forskning eller i verkligheten.

Ett mönster växer fram

Tagna var för sig är dessa tre studier intressanta. Tillsammans pekar de mot något mer grundläggande: dagens AI-agenter saknar en stabil inre kompass. De påverkas oproportionerligt av externa signaler — vare sig det handlar om ett verktygs utdata, en marknadsrörelse eller upprepade samtal som sakta eroderar en tilldelad personlighet.

Det är inte en dödsdom för agentteknik. Men det är ett tydligt besked om var forskning och produktutveckling behöver fokusera härnäst: inte på att göra agenterna snabbare eller billigare, utan på att göra dem mer principfasta.