AI-agenternas stora misslyckande: 85 procent faller på verkliga uppgifter
Endast 15 procent av AI-agenter klarar verkliga uppgifter i nya studier.
När verkligheten slår till
AI-agenter har varit en av 2024:s hetaste utvecklingsområden, med löften om system som självständigt kan navigera mobilappar, använda verktyg och lösa komplexa uppgifter. Men tre nya forskningsstudier från arXiv levererar nu en kall dusch som visar att glappet mellan laboratorieprestanda och verklig användning är större än vi trott.
Problemet är inte tekniskt – det är metodologiskt. När forskare testade 57 olika AI-modeller i den nya testmiljön WildToolBench, som baseras på verkliga användarbeteenden, lyckades ingen uppnå mer än 15 procent träffsäkerhet vid verktygsanvändning. Samma modeller som glänste i kontrollerade tester föll ihop när de mötte den oförutsägbara verkligheten.
Tre dimensioner av misslyckande
Forskningsresultaten pekar på tre kritiska svaghetspunkter som tidigare testmetoder missat helt.
Första problemet ligger i perception och minneskapacitet. Den nya testmiljön VenusBench-Mobile, som utvärderar AI-agenter för mobilstyrning, visar att även de starkaste systemen får nästan noll framgång när testmiljön varieras något. Till skillnad från tidigare tester som fokuserat på enskilda appar och enkla uppgifter, speglar denna verklig mobilanvändning med all dess komplexitet.
Andra utmaningen handlar om användarinteraktion. Verkliga användare beter sig inte som forskare i ett laboratorium. De ger underförstådda instruktioner, blandar uppgifter med vardagssamtal och förväntar sig att AI:n ska förstå avsikter som sprids över flera dialogturer. Detta kaos av kommunikation är något som nuvarande AI-agenter inte klarar av.
Tredje problemet är det mest subtila men kanske allvarligaste: mallkollaps. Forskare har upptäckt att AI-agenter som tränas med förstärkningsinlärning kan utveckla fasta resonemangsmönster som ser mångsidiga ut men faktiskt är identiska oavsett uppgift. Denna svaghet går inte att upptäcka med traditionella mätmetoder som mäter entropi.
Diagnostik för framtiden
Det finns dock ljusglimtar. Forskarna har utvecklat nya diagnostiska metoder baserade på ömsesidig information för att upptäcka när modeller slutar anpassa sitt resonemang till olika indata. De föreslår även tekniker som "SNR-medveten filtrering" för att välja bättre träningsexempel.
Testerna av dessa metoder på uppgifter inom planering, matematiskt resonemang och kodexekvering visar konsekvent förbättring både av prestanda och modellernas förmåga att anpassa sig till olika situationer.
Tillbaka till ritbordet
Vad vi ser är inte slutet för AI-agenter, utan början på en mer mogen utvecklingsfas. Forskarna menar att dessa nya testmiljöer utgör viktiga steg mot mer robusta system. Problemen ligger inte i att uppgifterna är för komplexa – de ligger i att vi underskattat hur oförutsägbar och mångfacetterad verklig användning faktiskt är.
För utvecklare innebär detta att vi måste ompröva grundläggande antaganden om hur AI-modeller, användare och verktyg samverkar. Laboratorietester räcker inte längre.
Vår analys
Dessa forskningsresultat markerar en viktig vändpunkt för AI-agentområdet. Som systemutvecklare känner jag igen mönstret – det påminner om när webb-appar började testas på riktiga användare istället för utvecklarnas perfekta testmiljöer.
Det positiva är att vi nu har bättre diagnostikverktyg och förstår var problemen ligger. Mallkollaps-upptäckten är särskilt värdefull eftersom den förklarar varför många AI-system verkar smarta men ändå misslyckas på oväntade sätt.
Jag ser detta som en nödvändig mognadsfas. Precis som med alla nya tekniker måste vi igenom "dödsdalen" mellan laboratorieframgång och praktisk användbarhet. De nya testmetoderna kommer att driva fram robustare system, och SNR-medveten filtrering visar redan lovande resultat. Inom 18-24 månader borde vi se AI-agenter som faktiskt klarar verkliga användarscenarion.