Bygger vi AI vi inte förstår – och driftsätter den ändå?
AI slår mänskliga riktmärken – men ingen förstår riktigt hur.
Bygger vi något vi inte förstår?
Det händer mycket i AI-agentfältet just nu. Väldigt mycket, väldigt snabbt. Och det är svårt att inte bli imponerad när man läser igenom den senaste omgången av forskning – men också svårt att inte stanna upp och fråga sig vad allt detta faktiskt innebär i praktiken.
Ta ARC-AGI-3, länge betraktat som ett av de tuffaste testerna för maskinell allmänintelligensc. En ny studie visar att en agent med verifieringsteknik löste i princip samtliga publika uppgifter med nära 99 procents träffsäkerhet – med färre åtgärder än en mänsklig referensanvändare. Siffrorna är häpnadsväckande. Forskarna är själva försiktiga och påpekar att modellen kan ha exponerats för uppgifterna under träning, men riktningen är tydlig: vi rör oss snabbt mot agenter som klarar komplexa resonemangsproblem på ett sätt vi inte sett förut.
Samtidigt visar ToolVerse att det går att träna agenter på nära 4 500 verkliga verktyg inom hundratals protokoll – och att de faktiskt lär sig använda dem i långa, sammanlänkade uppgiftskedjor. Det är inte laboratoriekonstigheter, det är infrastruktur för att bygga agenter som fungerar i verkliga system.
Genombrotten hasar på bred front
Det som slår mig när jag tittar på bredden av forskning är hur många fundamentala problem som angrips parallellt. Träningsinstabilitet i flerstegiga agenter? CIGPO löser det genom att dela ut delvisa belöningar per steg, vilket mer än fördubblar F1-poängen jämfört med grundmodellen. Dåligt långtidsminne? MOSAIC introducerar en grafbaserad struktur som identifierar faktamotsägelser med 66 procents träffsäkerhet – mot 14 procent för närmaste konkurrent.
Forskning på ToolVerse-hållet och Hindsight Policy Optimization visar att vi börjar lösa de matematiska grundproblemen med förstärkningsinlärning i långa interaktionskedjor. Det är tråkigt att läsa om men avgörande i praktiken – utan stabil träning byggs inga tillförlitliga agenter.
Och om man tittar på hur vi driftsätter agenter: PLA-ramverket slog GPT-5, Claude Opus 4.5 och Gemini 3 Pro på reseplanering – direkt på en mobiltelefon, utan molnanslutning. De tre ledande modellerna uppnådde noll procents genomförbarhet under samma villkor. Det är ett påminnelse om att råkapacitet i en stor modell inte automatiskt innebär praktisk användbarhet.
Säkerheten håller inte jämna steg
Här måste jag vara rak: säkerhetsbilden är oroande. Studien bakom PlanFlip testade nio avancerade språkmodeller i nästan 3 500 försök och visade att ett enda injestat skadligt kommando i planeringsfasen kan korrupta samtliga efterföljande deluppgifter i ett flerageratsystem. Och det mest överraskande fyndet? Kraftfullare modeller är inte säkrare. GPT-5 uppvisade den högsta andelen lyckade angrepp.
Det här är ett strukturellt problem, inte en bugg man fixar med en uppdatering. System som bygger på att flera agenter delar samma grundmodell ger ett falskt skydd – verklig robusthet kräver att man blandar modeller med olika ursprung.
RAIL Guard är ett lovande svar på en del av problemet: i stället för att blockera dåliga svar och börja om jobbar systemet iterativt för att rätta till dem, med 96,9 procents framgång mot 49,1 procent för traditionella metoder. Men forskarna bakom RAIL Guard är noga med att påpeka att vissa brister – transparens, ansvarsskyldighet – kräver grundläggande arkitektoniska förändringar, inte bara bättre filter.
Och RECON-riktmärket avslöjar att även de starkaste systemen bara når 22,4 procents träffsäkerhet när de ställs inför sammansatt resonemang över långa sammanhang. Det är en påminnelse om hur långt vi faktiskt har kvar.
Integritet och kontroll i fokus
En annan röd tråd är frågan om vem som kontrollerar vad. AnovaX visar att det är fullt möjligt att bygga kraftfulla röstassistenter som körs helt lokalt – utan att ett enda ljud lämnar hemmanätverket. RELIC visar att AI-agenter kan samarbeta och dela kunskap utan att dela underliggande kod. Dessa är inte bara tekniska nyheter, de är arkitektoniska val med tydliga konsekvenser för integritet och ägarskap.
Forskarna bakom ojämnhetsprincipen bidrar med något mer subtilt men lika viktigt: en teoretisk modell för var i ett arbetsflöde mänsklig granskning gör mest nytta. Svaret är inte jämnt fördelat – kontrollpunkterna bör glesas ut successivt längs flödet. Det är den sortens kunskap vi behöver för att designa system som faktiskt fungerar i organisationer, inte bara i labbmiljöer.
Vår analys
Det som pågår just nu i AI-agentforskningen är inte inkrementellt – det är en bred front av parallella genombrott som angriper olika delar av samma grundproblem: hur bygger man agenter som är kapabla, tillförlitliga och säkra på samma gång?
Min bedömning är att vi befinner oss i en fas där kapacitetsutvecklingen löper klart snabbare än säkerhets- och tillförlitlighetsarbetet. Resultaten från PlanFlip är ett varningstecken som bör tas på allvar av alla som bygger agenbaserade produktionssystem idag. Det räcker inte att välja den starkaste modellen – man måste aktivt designa för motståndskraft.
Samtidigt är jag genuint optimistisk. Verktyg som agrepl för deterministisk återuppspelning, MOSAIC för minneshantering och CIGPO för stabil träning löser precis de sorters infrastrukturproblem som gör att agenter faktiskt kan driftsättas på ett ansvarsfullt sätt. Fältet är inte naivt – det vet var problemen sitter. Nu gäller det att bygga ikapp.