Mer data, fler agenter, sämre resultat – forskningen river upp grundantagandena om AI
Ny forskning slår hål på grundantagandena: mer data och fler AI-agenter ger sämre resultat.
När intuitionen trumfar – i fel riktning
Det finns en lockande logik i hur vi ofta tänker kring AI: fler agenter löser mer. Mer data ger bättre svar. Detaljrikare instruktioner ger skarpare resultat. Den senaste vågen av forskning från arXiv skär rakt igenom den logiken – och tvingar oss att tänka om.
Ta frågan om AI-agenter i samarbete. En ny studie som testat fem avancerade modeller i 77 olika scenarier visar att agentteam konsekvent presterar sämre än en enda agent som hanterar samma uppgifter. I miljöer utan kommunikationskanal mellan agenterna kollapsade samarbetet helt. Agenter blockerade varandra, skrev över varandras åtgärder och – i ett närmast absurt fynd – hittade på påståenden. En personlig assistent-agent lyckades uppfylla användarens önskemål dubbelt så ofta när den arbetade ensam jämfört med i ett team. Det är inte en marginell skillnad. Det är ett fundamentalt ifrågasättande av hela arkitekturen bakom de flesta storskaliga agentlösningar som företag bygger just nu.
Mer är inte alltid mer
Samma logikbrist dyker upp när vi tittar på personalisering. Det dominerande antagandet i branschen har länge varit att mer kunddata ger bättre AI-rekommendationer. Forskare som genomfört ett experiment tillsammans med en stor möbelhandlare presenterar nu en teori som de kallar kontexttillräcklighet – och den vänder på hela resonemanget.
Resultaten är entydiga: generativa AI-system presterar sämre när de matas med irrelevant sammanhangsinformation, även om den totala datamängden ökar. Det optimala läget – det forskarna kallar kontexttillräcklighetsgränsen – handlar inte om maximal datainsamling utan om att identifiera den minimala uppsättning relevant information som faktiskt krävs för den aktuella situationen. Framtidens smarta personalisering handlar alltså inte om att samla mer, utan om att förstå vad som faktiskt spelar roll.
En liknande tankevurpa dokumenteras när det gäller yrkesspecifika AI-profiler. En genomgång av 503 sådana profiler från det öppna projektet Scientific Agents visade att detaljerade rollbeskrivningar i genomsnitt gav 0,6 procentenheter sämre noggrannhet än en enkel prompt som "Du är en hjälpsam assistent" – och kostade 2,2 till 4,5 gånger mer per anrop. På bioinformatikuppgifter var klyftan ännu djupare. Det är ett kostsamt missförstånd som många organisationer sannolikt bär på utan att känna till det.
Där framstegen faktiskt händer
Men bilden är inte enbart nedslående – tvärtom. På säkerhetsfronten sker just nu genuint banbrytande arbete, och det är värt att lyfta fram.
Bakdörrsattacker mot språkmodeller – där en modell manipuleras att bete sig skadligt när dolda utlösare aktiveras – har länge setts som ett av de svåraste problemen i praktisk AI-säkerhet. Nu presenteras inte en, utan två separata metoder för att neutralisera sådana angrepp.
Den första, kallad Quarantined Expert Shutdown, låter bakdörren bildas under träningen men kanaliserar den till en isolerad komponent. Vid driftsättning räcker en enda åtgärd – att nollställa den komponentens routningsvikt – för att neutralisera hotet. Andelen lyckade attacker sjönk från 100 procent till mellan 0 och 10 procent i de flesta scenarierna.
Den andra metoden bygger på nollrumsprojektion och är anmärkningsvärd av ett annat skäl: den kräver varken kännedom om attackens utformning, tillgång till orörda referensdata eller omträning av modellen. Resultaten är jämförbara – attackfrekvensen sjunker till under 10 procent – och metoden bedöms ha stor praktisk tillämpbarhet inom säker AI-driftsättning.
Till detta kan läggas Sapien, en ny säkerhetsmotor för autonoma AI-agenter som tar hänsyn till vad agenten redan gjort under pågående uppgifter. I testmiljön AgentDojo blockerar Sapien 93–95 procent av attackerna, med endast marginell försämring i faktisk nytta.
Vad forskarfronten egentligen säger
Det samlade mönstret från denna forskningsvåg är inte att AI är överskattad – det är att felaktiga antaganden om hur AI fungerar är överskattade. Mer agenter, mer data, mer detaljerade profiler: det är intuitivt tilltalande men empiriskt felaktigt i en rad verkliga tillämpningsfall. Samtidigt accelererar arbetet med att göra AI-system faktiskt tillförlitliga och säkra i praktisk drift. Det är inte ett steg tillbaka. Det är precis den mognad som krävs för att AI ska kunna leverera på sitt faktiska löfte.
Vår analys
Det som imponerar mest med denna forskningsvåg är inte de enskilda rönen – det är det gemensamma mönstret. Vi ser en akademisk front som aktivt utmanar de produktmyter som formats av marknadsföring snarare än av empirisk erfarenhet. Det är hälsosamt, och det är nödvändigt.
För beslutsfattare och AI-ansvariga i svenska organisationer finns här konkreta läxor att ta med sig direkt: granska era agentarkitekturer för onödig komplexitet, ifrågasätt om er personalisering faktiskt matar in rätt data snarare än mest data, och sluta betala premiumpriser för yrkesprofiler som inte levererar.
På säkerhetssidan är nyheterna genuint uppmuntrande. Att bakdörrsattacker nu kan neutraliseras utan omträning och utan kännedom om attackvektorn förändrar villkoren för säker AI-driftsättning i grunden. Det är den typ av praktisk genombrytning som faktiskt möjliggör bredare, ansvarsfull AI-användning i samhällskritiska sammanhang. Forskarfronten levererar – men det gäller att lyssna på rätt signaler.