AI-agenternas lovande siffror döljer en obehaglig sanning: utvärderingarna håller inte
AI-agenter lovar revolutionerande resultat – men utvärderingsmetoderna är djupt otillförlitliga.
Ramverken duggar tätt – men håller de vad de lovar?
Det råder ingen brist på ambition inom AI-agentforskningen just nu. På kort tid har forskare presenterat system som lovar allt från automatisk design av fler-agentflöden till kontinuerligt självlärande och 86 procents snabbare felsökning i mobilnät. Läser man rubrikerna kan man lätt få intrycket att de självständiga AI-systemens genombrott redan är ett faktum.
Men gräver man ett lager djupare i forskningen framträder en mer nyanserad bild – och den är både mer intressant och mer ärlig.
Styrning är ett arkitekturproblem, inte en policyfråga
En kvalitativ studie av hur ett stort IT-tjänsteföretag rullade ut ett självständigt AI-system under 2025 slår fast något som borde vara självklart men sällan behandlas som det: styrning handlar inte om abstrakta riktlinjer, utan om konkreta arkitektoniska val. Vilka verktyg får systemet använda? Hur hanteras minnet? Vad kräver mänskligt godkännande?
I samma anda presenterar forskare CUGA, ett modulärt styrningslager som kan kopplas ovanpå en generalistisk språkmodell utan att man behöver bygga om hela systemet. CUGA ingriper vid fem kontrollpunkter i agentens arbetsflöde – från planering till slutresultat – och demonstreras i ett sjukvårdsscenario där skadliga förfrågningar blockeras och riskfyllda åtgärder kräver mänskligt godkännande. Det är ett konkret och välmotiverat angreppssätt på ett problem som många organisationer just nu brottas med.
Men här kommer den intressanta motpunkten: forskning publicerad på arXiv visar att mer styrning inte automatiskt ger bättre resultat. Studien undersöker hur olika grader av strukturerade körningsramverk påverkar agenternas prestanda och finner att delvis styrda system – där bara de inledande stegen specificeras och agenten sedan agerar självständigt – i många fall slår fullt strukturerade arbetsflöden. Felkällorna i alltför styva ramverk inkluderar överdriven uppdelning av uppgifter och för aggressiv gallring av alternativ. Det är ett fynd som borde ge paus för eftertanke hos alla som tror att fler regler automatiskt löser problemet.
Utvärderingsmetoderna håller inte måttet
Parallellt med ramverksutvecklingen pågår en viktig metoddebatt: hur vet vi egentligen hur bra AI-agenterna är?
AgentAtlas är ett nytt ramverk som försöker ge en mer rättvis och heltäckande bild. Dess kanske mest oroväckande fynd är att när tydliga instruktioner togs bort ur uppmaningarna sjönk modellernas noggrannhet med 14–40 procentenheter. Det antyder att en stor del av den till synes höga förmågan egentligen härrör från ledtrådar i prompten – inte från genuin förståelse.
RealUserSim pekar på ett liknande problem från en annan vinkel: simulerade användare, som ofta är andra språkmodeller, är dåliga ståndsorter för riktiga människor. Genom att analysera över 14 000 autentiska konversationer och skapa körbara beteendeprofiler höjer RealUserSim träffsäkerheten i beteendematchning från 24 till 45 procent – och avslöjar tre typer av misslyckanden som traditionella simuleringar helt missat.
DeepWeb-Bench angriper ännu en blind fläck: att befintliga riktmärken blivit för enkla. Av misstagen hos nio testade toppmodeller berodde bara 12–14 procent på informationsinsamling – medan brister i slutledning och kalibrering stod för över 70 procent. Det är ett mönster som borde förändra hur vi pratar om vad dessa system faktiskt är bra på.
Vad fungerar då?
Mitt i all kritik finns verkliga framsteg. AgentCo-op visar att hämtningsbaserad syntes av återanvändbara agentkomponenter kan göra automatiserad agentdesign mer praktiskt användbar – och billigare. SOLAR adresserar det välkända problemet med katastrofal glömska vid finjustering genom en flernivåbaserad förstärkningsinlärning som bygger upp ett episodiskt minne. Insights Generator hjälper utvecklare att hitta återkommande felmönster i körningsloggar och visade i tester en prestandaförbättring på 30 procentenheter jämfört med omodifierade system.
Och HANA-arkitekturen för mobilnät visar att hierarkiskt samverkande agenter kan minska reparationstider med 86 procent i 5G-miljöer – ett konkret, mätbart resultat i en verklig infrastruktur.
Bilden som träder fram är inte en av misslyckande, utan av en teknik som mognar på riktigt: med verktyg för felsökning, mer ärliga utvärderingsmetoder och en begynnande förståelse för att styrning måste anpassas till uppgiften – inte maximeras för sin egen skull.
Vår analys
Det som gör det här forskningsläget genuint spännande är att fältet börjar ställa rätt frågor. Inte bara "hur bygger vi kraftfullare agenter?" utan "hur vet vi att de faktiskt fungerar?" och "vilken typ av styrning hjälper respektive stjälper?"
För företag som nu planerar att rulla ut självständiga AI-system är budskapet tydligt: börja med styrning som ett arkitekturproblem, inte som en eftertanke. Investera i ordentlig utvärdering – och lita inte blint på riktmärken som kanske mäter promptkänslighet snarare än genuin förmåga.
Den mest underskattade insikten från veckans forskning är att partiell styrning ofta slår total styrning. Det kräver ett mognadstänk hos organisationer: att våga ge agenten frihet i de steg där den faktiskt presterar bäst, och reservera mänsklig kontroll till de punkter där den verkligen gör skillnad. Det är svårare än att bara sätta upp fler regler – men det är också mer ärligt mot hur tekniken faktiskt fungerar.