AI som samarbetspartner, inte supermaskin – men grundläggande brister avslöjar hur långt kvar det är
DeepMind vill göra AI till samarbetspartner – men forskningen avslöjar stora brister.
Singulariteten är fel metafor
Under decennier har diskussionen om AI:s framtid kretsats kring en och samma bild: en enskild maskin som ständigt förbättrar sig själv tills den passerar allt mänskligt tänkande. Den så kallade singulariteten. Det är en dramatisk berättelse – men kanske inte den rätta.
Forskare vid DeepMind argumenterar nu, enligt The Decoder, för att vi behöver ett helt annat ramverk. De kallar det Artificiell Symbiotisk Intelligens, och grundidén är enkel men genomgripande: intelligens är inte en egenskap hos en isolerad maskin. Det är ett socialt fenomen som uppstår i samspelet mellan agenter – mänskliga såväl som syntetiska.
I stället för att jaga en superintelligens i singularis föreslår de att vi borde fokusera på hur komplexa nätverk av människor och AI-system kan samordnas och styras. Det är ett skifte från maskintänkande till ekosystemtänkande, och det känns som ett mer ärligt sätt att beskriva den värld vi faktiskt bygger.
Forskarna pekar också på ett intressant empiriskt fynd: resonerande AI-modeller som DeepSeek-R1 och QwQ-32B uppvisar spontant beteenden som liknar intern debatt. De skiftar perspektiv, väger invändningar och försöker förena motstridiga slutsatser – utan att det är explicit programmerat. Det är som om kollektiv intelligens uppstår inifrån modellen själv.
Men under ytan: trasig inlärning
Samtidigt som dessa stora visioner formuleras pågår ett intensivt arbete med att förstå vad som faktiskt händer när vi tränar stora språkmodeller – och svaren är inte alltid uppmuntrande.
Ett nytt fenomen som forskare nyligen identifierat och publicerat på arXiv kallas forking. Det uppstår när modeller med ett överdimensionerat n-gram-minne tränas upprepade gånger på samma data. Resultatet är en dramatisk klyfta mellan tränings- och valideringsförlust vid epokkränsar – modellen lär sig sina träningsexempel utantill, men misslyckas med att generalisera. Fenomenet har reproducerats i flera olika modellarkitekturer och placerar sig vid sidan av sedan tidigare kända störningar som grokking och dubbel nedstigning.
Det är fascinerande och oroande på samma gång. Vi bygger system av enorm komplexitet, och vi fortsätter att hitta nya sätt de kan misslyckas på.
Lösningarna börjar ta form
Den goda nyheten är att forskarsamhället inte nöjer sig med att kartlägga problemen – lösningsförslagen avlöser varandra.
Ramverket FAER, presenterat på arXiv, angriper ett grundläggande problem i träningsprocessen: att data väljs ut efter ytliga kriterier som format och svarslängd snarare än efter vad modellen faktiskt behöver lära sig. FAER introducerar ett inlärningsmedvetet urvalssystem, och resultaten är tydliga – på det matematiska riktmärket GSM8K steg kvalitetspoängen från 0,55 till 0,66 jämfört med slumpmässigt urval.
En annan publikation presenterar MatrixReward, en teknik för att belöna AI-modeller på frågor utan tydliga facitsvar. I stället för att bedöma varje svar isolerat jämförs alla svar parvis utifrån flera kriterier, vilket ger en mycket rikare bild av kvalitet. På öppna riktmärken presterade metoden runt två procentenheter bättre än starkaste konkurrenten – en liten men meningsfull förbättring i ett område som traditionellt är svårt att mäta.
För AI-agenter – system som utför uppgifter i flera steg – finns ett liknande grundproblem: återkopplingen kommer ofta bara vid slutet av en uppgift, vilket gör det svårt att förstå vilka mellanliggande beslut som faktiskt var värdefulla. T2SPO, ännu en arXiv-publikation, löser detta genom att beräkna hur nära ett givet tillstånd är från målet baserat på historiska framgångsexempel, och använder detta som kompletterande återkopplingssignal under träningen. I tester med agentmiljöerna ALFWorld och WebShop överträffar metoden konsekvent etablerade alternativ.
Slutligen, för bildgenerering: EvoGen-Harness visar att man kan förbättra text-till-bild-system avsevärt utan att ens röra grundmodellens parametrar – enbart genom att optimera de yttre komponenterna runt en fryst generator. Det är ett elegant grepp som påminner om hur mycket som kan vinnas utan att börja om från grunden.
Två berättelser om samma resa
Det som är slående när man läser dessa studier tillsammans är att de egentligen berättar samma historia från olika håll. DeepMinds symbiotiska vision handlar om vart vi är på väg. Forskningen om forking, FAER, MatrixReward och T2SPO handlar om varför vägen dit är längre och svårare än det kan verka.
Det är just den kombinationen som gör det här momentet i AI-utvecklingen så intressant – och så viktig att följa noga.
Vår analys
Det finns en välgörande ärlighet i att DeepMinds forskare väljer att utmana singularitetsmyten just nu. Inte för att AI stagnerar – utan för att den symbiotiska modellen faktiskt bättre beskriver den verklighet som tar form. Vi bygger inte en gud i en maskin; vi bygger ett ekosystem.
Men den veckan forskning som presenteras här påminner om att ekosystemet är komplext på ett sätt vi fortfarande inte fullt förstår. Forking är ett bra exempel: ett fenomen som uppstår ur relativt enkla träningsbeslut men som kan undergräva hela modellens generaliseringsförmåga. Det är precis den typen av överraskning man kan förvänta sig i ett fält där systemen är för stora för att intuitivt greppa.
Det positiva är att lösningarna – FAER, MatrixReward, T2SPO – visar på en mognande forskningskultur som börjar förstå sina egna blinda fläckar. Det är inte ett tecken på kris. Det är ett tecken på att disciplinen växer upp.