AI-forskningen avslöjar ett obehagligt faktum: algoritmen fungerar av en slump

Grundforskning i högsäsong

Det händer mycket i de djupare lagren av AI-forskningen just nu. Två nya studier på arXiv – den plattform där AI-forskare publicerar sina rön innan de når formell granskning – tar sig an frågor som få utanför akademin ens vet om att de existerar. Ändå är svaren viktiga.

Den första studien undersöker Adam, den algoritm som tränar i princip alla moderna djupinlärningsmodeller. Adam används dagligen i träning av allt från chattbotar till bildgenereringsmodeller – men varför den faktiskt fungerar så bra har inte varit helt klarlagt. Studien mäter hur mycket Adam avviker från så kallad naturlig gradientnedstigning, en teoretiskt idealisk optimeringsmetod. Svaret, enligt arXiv-publikationen, är att avvikelsen kan vara enorm – upp till 1 000 enheter i ett litet neuralt nätverk under ogynnsamma förhållanden. Ändå når Adam konsekvent goda resultat. Slutsatsen är lika elegant som den är lite besvärande: Adams styrka verkar bero på en lycklig balans mellan fel som tar ut varandra, snarare än att algoritmen gör exakt det teorin föreskriver.

Den andra studien tar ett djupdyk i uppmärksamhetsmekanismer – den komponent i transformatorarkitekturen som avgör vilka delar av en textsekvens en modell ska fokusera på. Forskarna bakom denna arXiv-studie testar en teknik där den vanliga beräkningsmetoden ersätts med ett frekvensstyrt bandpassfilter. Resultaten pekar mot att oscillerande filterstrukturer är avgörande, att optimala filter centreras kring ungefär 70 symbolers avstånd, och att enkla Gaussiska filter faktiskt försämrar prestandan. Koden finns tillgänglig öppet på GitHub, vilket är lovvärt – men frågan är vem som faktiskt hämtar hem den och bygger vidare.

Den bekvämliga klyftan

Här är det värt att stanna upp. Båda studierna är tekniskt välgjorda och adresserar verkliga frågeställningar. Men de delar också ett gemensamt drag som gör dem svåra att ta in för en bredare publik: de saknar tydliga produktkonsekvenser, industripartners eller konkreta nästa steg.

Det är inte forskarnas fel. Grundforskning ska vara fri att följa nyfikenheten. Men det skapar en strukturell tröghet i hela fältet. Insikten om Adams geometriska egenskaper är fascinerande – men vad gör en utvecklingschef på ett produktbolag med den informationen i morgon bitti? Svaret är, i de flesta fall, ingenting.

Klyftan är inte ny. Men den har blivit mer synlig nu när AI-tillämpningar rullas ut i industrin i en takt som aldrig tidigare skådats. Produktteam kämpar med att få sina modeller att fungera tillförlitligt i produktion, medan delar av forskarsamhället fortsätter att analysera varför algoritmer fungerar – utan att nödvändigtvis koppla ihop insikterna med de problem som faktiskt bromsar tillämpningen.

Vad saknas?

Det som fattas är inte forskning. Det som fattas är brobyggare – människor och organisationer som kan ta akademiska insikter och översätta dem till ingenjörsbeslut. Studien om frekvensbaserad uppmärksamhet noterar exempelvis att metoden fungerar bäst i tvåriktade BERT-liknande modeller, men kräver kausala varianter för generativa GPT-liknande modeller. Det är en viktig distinktion – men den kräver att läsaren redan förstår skillnaden mellan de två arkitekturerna för att ens kunna bedöma relevansen.

Den goda nyheten är att fältet faktiskt rör sig mot mer tillämpad forskning. Allt fler akademiska grupper samarbetar med industripartners, och öppen publicering av kod – som i fallet med uppmärksamhetsstudien – sänker tröskeln för den som vill pröva metoderna i praktiken. Det är rätt riktning.

Men vi är inte framme än. Och det är värt att säga högt.