AI-agenterna springer fortare än vi hinner förstå dem – och det är just det som är problemet
AI-agenterna blir kraftfullare – men ju mer de kan, desto svårare att förstå dem.
Förmågan rusar framåt – på bred front
Det är svårt att inte imponeras av bredden. Den här veckan rapporteras om AI-agenter som självständigt styr vertikala gårdar med 67,9 procents energibesparing, robotar som uppnår 96,7 procents framgångsgrad på komplexa manipulationsuppgifter, och AI-system som autonomt angriper ett olöst matematiskt grafteoriproblem som stått orört i decennier. LinkedIn lanserar en självförbättrande supportagent som ökar ärendelösningsgraden med upp till 30 procentenheter, och AgonAlpha jagar handelssignaler med ett Sharpe-tal på 3,48 – helt utan mänsklig inblandning.
Minnesarkitekturen mognar i snabb takt. System som MESA, MEGA och EvoGraph-Mem visar att agenter nu kan bygga upp strukturerad, återanvändbar kunskap över tid – och till och med rensa bort föråldrad eller förgiftad information. Ramverk som Thea för fysiska robotar och GeoForge för jordobservation visar att mönstren från programvaruutveckling nu sprider sig till den fysiska världen.
Men under ytan – ett hav av brister
Här är det som gör veckans forskning riktigt intressant, och lite obekväm att läsa. För parallellt med alla framsteg rullar det in en rad studier som systematiskt dokumenterar vad som fortfarande inte fungerar.
Ta utvärderingen. En av veckans mest slående studier avslöjar att den vanligaste metoden för att bedöma AI-routrar i agentbaserade system – återuppspelning av inspelade händelseförlopp – är fundamentalt missvisande. I verkligheten ledde modellbyten till kraftiga avvikelser redan vid första steget i 74–77 procent av fallen. Bara tre procent av de inspelade tillstånden visade sig vara giltiga testpunkter. Med andra ord har fältet i stor utsträckning utvärderat en verklighet som aldrig existerade.
En annan studie visar att AI-topplistor för agenter rangordnar specialisering, inte faktisk förmåga – själva agentens grundförmåga förklarar mindre än tre procent av resultaten. DSAgentBench, ett nytt riktmärke för datavetenskapliga arbetsflöden, visar att den starkaste modellen klarar knappt 57 procent av uppgifterna, medan samtliga öppna modeller presterar under en procent.
Säkerhetsproblemen är lika allvarliga. En ny akademisk artikel argumenterar formellt för att semantiska säkerhetsbegränsningar är fundamentalt omätbara utifrån träningsdata – vilket förklarar varför mjuka säkerhetsregler konsekvent visar sig otillräckliga. Forskning kring aktiveringsstyrning visar att bieffekter är vanliga, strukturerade och asymmetriska. Och en studie om intensivvård avslöjar "toxisk imitation" – där AI-system lär sig att kopiera skadliga behandlingsmönster från historiska data utan att utvärderingsverktygen reagerar.
Hallucinationerna lever kvar. Latent Critic, ett nytt skyddssystem som arbetar parallellt med språkmodellen, uppnår 0,966 i AUROC och 80 procents träffsäkerhet vid lokalisering av fel – vilket är lovande, men understryker att problemet fortfarande är tillräckligt allvarligt för att kräva dedikerade lösningar.
Värderingar och partiskhet – en osynlig infrastruktur
En genomgång av 94 forskningsartiklar inom AI-anpassning avslölar något som borde ge alla som arbetar med AI-system en paus: de flesta forskare definierar aldrig vad de menar med "mänskliga värderingar". Preferenser används som ett enkelt substitut, vilket riskerar att reducera komplexa och kulturellt förankrade begrepp till binära val. Parallellt visar studier att RLHF-träning systematiskt underrepresenterar minoritetsgruppers preferenser, och att majoritetsröstning – en populär teknik för att förbättra svar – faktiskt försämrar träffsäkerheten på upp till 65 procent av frågorna för mindre modeller.
Det är en påminnelse om att infrastrukturen vi bygger AI-system på – träningsdata, belöningsmodeller, utvärderingsprotokoll – bär med sig antaganden som sällan görs explicita.
Det lönsamma och det hållbara
På den affärsmässiga sidan fortsätter specialiserade modeller att slå generalisterna. Forma, en finansiell prognosmodell, slår konsekvent stora språkmodeller på femåriga finansiella prognoser – och fördelen ökar med tidshorisonten. Inom chipverifiering når en modell med fyra miljarder parametrar 13,5 procentenheter bättre resultat än DeepSeek-R1 med 671 miljarder parametrar. Smart träningsstrategi slår råstorlek, gång på gång.
Miljöperspektivet får också ny forskning: träningsfasen är den enskilt största källan till koldioxidutsläpp, och ökad komplexitet leder inte automatiskt till proportionellt bättre resultat. Det är argument för effektivitetsfokus snarare än skalningsjakt.
Vår analys
Veckans forskning bekräftar något som de mest ärliga aktörerna i branschen redan vet: vi lever i ett moment av teknisk acceleration kombinerat med metodologisk omognad. Agenterna kan mer – men vi vet fortfarande inte riktigt hur bra de är, eftersom våra verktyg för att mäta det visar sig vara bristfälliga.
Det som ger mig verklig optimism är inte de imponerande demoresultaten, utan den växande rörelse inom forskarsamhället som systematiskt dokumenterar bristerna. Det är precis vad mogen teknikutveckling ser ut när den fungerar som bäst: öppen granskning, replikering och korrigering. Säkerhetsbegränsningar måste byggas in i infrastrukturen, inte tränas in i modellen. Utvärderingsprotokoll måste återspegla verkliga förhållanden. Och värderingsfrågor måste ges filosofisk skärpa, inte gömmas bakom preferensdata.
För företag som investerar i AI-agenter nu: välj partners som prioriterar tillförlitlighets- och revisionsspår framför imponerande demopoäng. Det är där den verkliga konkurrenskraften byggs.