AI-agenter väljer sin egen träningsdata och skriver om sin kod – minskar behovet av mänsklig styrning

Från verktyg till självständiga aktörer

Det har länge funnits en tydlig gräns: AI-system är verktyg som människor bygger, tränar och driftsätter. Den gränsen håller nu på att lösas upp. En flod av nya arXiv-artiklar från det senaste veckan målar upp en bild av agenter som inte bara utför instruktioner – de lär sig, anpassar sig och förbättrar sig utan att vi behöver hålla i handen hela vägen.

Ta AutoData som ett illustrativt startskott. Systemet låter en AI-agent självständigt söka efter de optimala metoderna för att välja ut träningsdata till stora språkmodeller. Tidigare var det dataingenjörers jobb – ett hantverk som krävde år av erfarenhet och intuitiv känsla för vad som ger en bra modell. AutoData hittade på en enda natt urvalsmetoder som överträffar manuellt utformade datapipelines, och metoderna fungerar dessutom bättre när de skalas upp. Det är inte en liten förbättring i marginalen – det är en strukturell förändring i vem som ansvarar för ett centralt steg i AI-utvecklingen.

Parallellt med detta visar SIFT (Recursive Self Improvement via Fast Tree-search) hur en kodningsagent kan rekursivt modifiera sin egen implementation för att successivt prestera bättre på programmeringsuppgifter. Det kluriga med SIFT är inte bara att det fungerar, utan att det är kostnadseffektivt: genom att kombinera traditionell utvärdering med en språkmodell som domare minskar man behovet av att köra om tusentals testuppgifter vid varje iteration. Resultaten på det flerspråkiga riktmärket Polyglot är övertygande.

Agenter som håller fokus – i tio dagar

En av de klassiska svagheterna hos AI-agenter har varit kontextfönstret: när samtalsminnet är fullt börjar agenten tappa sin röda tråd. En ny arkitektur adresserar detta med ett hierarkiskt minnessystem som sammanfattar och bevarar kontext över sessionsgränser. I ett tio dagar långt experiment lyckades en agent återskapa ett publicerat resultat inom förstärkningsinlärning med mänsklig tillsyn bara en gång om dagen. Det är inte ett proof-of-concept på ett whiteboard – det är ett faktiskt genomfört experiment med kontinuerligt arbete under drygt en vecka.

På liknande sätt visar FINSKILLOPS, ett system för analys av finansiella rapporter till den amerikanska tillsynsmyndigheten SEC, hur agenter kan fortsätta förbättra sig efter driftsättning. Systemet identifierar återkommande fel – felaktiga tidsperioder, bristfällig bevisanvändning – och omvandlar dem till avgränsade kompetensjusteringar. Av 33 föreslagna ändringar godkändes sex, och andelen felaktiga svar sjönk från 20 till 12,5 procent. Strikt versionshantering och regressionstest ser till att nya förbättringar inte förstör det som redan fungerade.

Att lära sig regler ingen har skrivit ned

En annan fascinerande pusselbit är Continual Discovery Agent, som kartlägger dolda affärsregler i företagssystem utan att känna till dem på förhand. I testmiljön EnterpriseWorldShift – byggd på en riktig ServiceNow-miljö – interagerar agenten med systemet, observerar vad som händer och bygger successivt upp en intern världsmodell. Förbättringen mot tidigare metoder är nästan nio procentenheter i träffsäkerhet. För den som arbetat med systemintegration vet hur mycket tid som läggs på att dokumentera just dessa typer av implicita regler – regler som dessutom förändras.

Infrastrukturen hänger inte med

Mitt i all denna kapacitetsutveckling finns ett viktigt praktiskt problem: infrastrukturen är inte byggd för det. En ny studie visar att AI-agenter uppvisar dramatiskt olika resursbehov beroende på uppgiftstyp, och att det nuvarande ekosystemet i stor utsträckning saknar hänsyn till dessa dynamiker. Flaskhalsar uppstår olika – ibland i processorn, ibland i diskåtkomst – och att kasta mer beräkningskraft på problemet löser det inte alltid. Med uppgiftsanpassad resurstilldelning minskade svarstiden med upp till 5,4 gånger i känsliga scenarier.

Därtill pekar forskning på ett förbisett säkerhetsproblem: AI-agenter kan hitta på verktygsanrop till gränssnitt som inte existerar. I en studie mättes 322 äkta verktygshallucineringar hos tio modeller, och anmärkningsvärt nog spelade modellstorlek ingen roll – en modell med 675 miljarder parametrar var inte bättre än modeller med 7–8 miljarder parametrar. Det är ett strukturellt problem som kräver strukturella lösningar.

Forskare argumenterar nu för ett Foundation Model Operating System – ett systemlager som hanterar minneshantering, modellval, resurstilldelning och regelefterlevnad, ungefär som ett operativsystem abstraherar hårdvara från applikationer. Analogin är träffsäker: vi befinner oss i den fas av AI-infrastrukturutvecklingen som datorbranschen genomgick innan operativsystemen uppfanns.