Nya AI-system lär sig av egna misstag, uppfinner symbolspråk och skriver om sina instruktioner – utan mänsklig handledning

Självförbättring utan handledare

Det har länge funnits en sorts osynlig gräns i AI-forskningen: maskiner kan tränas av människor, men kan de träna sig själva? Den senaste tidens forskningsresultat ritar om gränsen i snabb takt.

Ta Flow Reasoning Models (FRM) från en färsk arXiv-studie. Systemet löser logikpussel som Sudoku med 99,2 procents träffsäkerhet – och gör det genom att fungera som sin egen granskare. Ett korrekt svar är en stabil punkt i systemets dynamik, vilket gör att modellen kan filtrera bort sina egna felaktiga förslag. Träningen bygger på direkt preferensoptimering, där modellen bokstavligen lär sig undvika misstag den själv har gjort. Det är inte memorering – systemet generaliserar till pussel det aldrig sett förut.

På liknande spår presenteras RSEA (Recursive Self-Evolving Agent), som förbättrar en fryst grundmodell genom att kontinuerligt skriva om sina egna instruktioner i tre lager: strategi, färdigheter och procedurer. En inbyggd säkerhetsmekanism ser till att varje förändring faktiskt förbättrar prestandan innan den antas – en slags kontrollgrind som förhindrar att agenten spårar ur.

Egna språk och kollektivt minne

När flera agenter samarbetar uppstår nya fenomen. Ramverket CLSR (Communicative Language Symbolism Routing) låter AI-agenter uppfinna egna kompakta symbolspråk i stället för att kommunicera på vanlig text. Resultatet: tre till sex gånger färre genererade symboler utan att noggrannheten försämras nämnvärt. Agenterna förfinar och delar sina protokoll med varandra, och ett inbyggt styrsystem väljer vilket symbolspråk som passar bäst för varje fråga.

Det är en tankeväckande parallell till hur mänskliga specialister utvecklar fackterminologi – men här sker det automatiskt och i realtid.

Minneshantering är en annan front där utvecklingen rör sig snabbt. HyphaeDB presenteras som ett minnessystem där kunskap sprids av sig självt mellan agenter via ett skvallerprotokoll, likt hur rykten sprids i ett socialt nätverk – men med inbyggd dämpning. Systemet kan på egen hand upptäcka motsägelser och nå konsensus. Janus, ett annat nytt system, fungerar som en minnesvakt som avgör om en ny minnesupdatering faktiskt förbättrar agentens framtida beteende – annars behålls det gamla minnet.

Agenter som lär sig som forskare

Hierarchical Experimentalist Agents (HExA) tar självförbättringen ett steg längre: systemet lär sig genom aktiv experimentering, bygger upp ett återanvändbart bibliotek av färdigheter och integrerar nya rön för att lösa uppgifter. I en fysikbaserad simuleringmiljö förbättrades Claude Sonnet 4.6:s framgångsgrad från blygsamma 2 procent till hela 77 procent med hjälp av HExA. Och inlärda färdigheter visade sig generaliserbara – med kunskaper från enklare nivåer nådde systemet 44 procents framgång på svårare uppgifter det aldrig tränats på.

HASTE, ett hierarkiskt multiagentsystem för maskininlärningstävlingar, visar en annan dimension av samma princip: att organiserad kunskap delvis kan ersätta kraftfullare modeller. Med ett förråd av 159 inlärda färdigheter nådde systemet 100 procents medaljefrekvens i kontrollerade tester, jämfört med 62,5 procent vid platt kunskapsladdning.

Kontroll är inte trivialt

Men självförbättring utan gränser är inte oproblematiskt. En studie om agentisk avhållsamhet – förmågan att avgöra när man ska ge upp – visar att större och mer avancerade modeller ibland är sämre på att avstå i rätt tid. Och forskning om världsmodellskollaps visar att AI-agenters förståelse av sin omvärld kan rasa samman abrupt, likt ett fasskifte, när belastningen eller uppgiftens längd överstiger en kritisk tröskel.

AgentBound och PolicyGuard är två ramverk som adresserar kontrollfrågan från olika håll: det ena genererar kryptografiskt verifierbara styrningskvitton för varje åtgärd, det andra fungerar som en underagent som resonerar kring policyer i realtid. Poängen är densamma – styrning måste gå från något som litas på till något som kan verifieras.

Det är en distinktion som kommer att bli allt viktigare ju mer självständiga agenterna blir.