Mjukvara måste designas om – AI-agenter ställer helt nya krav på hur verktyg byggs
AI-agenter tar över kodningen – och tvingar fram en omritning av all mjukvara.
När agenten är kunden
Det är lätt att glömma att AI-agenter numera är slutanvändare av mjukvara, precis som vi människor. En agent som ska lösa en uppgift söker igenom dokumentation, väljer bibliotek, skriver kod och felsöker sina egna misstag – helt autonomt. Det förändrar spelreglerna för hur vi bör bygga verktyg.
Ingenjörerna på Hugging Face har undersökt exakt detta, och resultaten är både enkla och tankeväckande. I en analys av hur agenter interagerar med deras eget bibliotek transformers mätte de inte bara om agenten löste uppgiften rätt – utan hur den kom dit. Hur många steg krävdes? Hur många rader kod producerades? Hur påverkades processen av vilken modell som kördes, eller vilken version av biblioteket som användes?
Exemplet de lyfter fram är talande: två agenter klassificerar båda korrekt känslan i en mening som positiv. Men den ena skriver ett 40-radigt Python-skript med flera felsökningsomgångar, medan den andra kör ett enda kommandoradsanrop och är klar på sekunder. Samma slutresultat – dramatiskt olika resursåtgång.
Två principer som förändrar hur mjukvara bör utformas
Hugging Face formulerar två grundläggande designprinciper för agentanpassad mjukvara:
- Om det inte är testat fungerar det inte
- Om det inte är dokumenterat existerar det inte
Det låter självklart, men konsekvenserna är långtgående. Ett klumpigt programgränssnitt eller föråldrad dokumentation drabbar numera inte bara en frustrerad mänsklig utvecklare – det tvingar en agent in på en längre, dyrare och mer resurskrävande väg mot målet. Och till skillnad från oss klagar agenten aldrig. Den fortsätter bara att försöka, steg efter steg, tills minnet eller budgeten tar slut.
Detta är en påminnelse om att mjukvarudesign behöver ett nytt perspektiv. Vi optimerar inte längre enbart för läsbarhet och utvecklarupplevelse – vi optimerar för maskinell förståelse.
LoRA styr – men bör det?
Parallellt med agentfrågan tar Hugging Face också upp en annan het potatis: finjustering av språkmodeller. Mer specifikt ifrågasätter de om den dominerande tekniken – LoRA – verkligen är det smartaste valet.
Siffrorna på LoRAs dominans är häpnadsväckande. Av drygt 20 000 modellkort på Hugging Face Hub som nämner exakt en parametereffektiv finjusteringsteknik anger hela 98,4 procent LoRA. På GitHub står tekniken för över 70 procent av relevanta kodsökningar. Det handlar om parametereffektiv finjustering – en metod som låter dig anpassa en befintlig stor modell till dina egna data utan att behöva träna om allt från grunden, vilket annars kräver enorma mängder datorminne.
LoRA löser detta genom att frysa grundmodellens vikter och lägga till ett litet antal nya, träningsbara parametrar ovanpå. Elegant, resurssnålt och väldokumenterat – vilket förklarar populariteten.
Men Hugging Face lyfter en viktig invändning: popularitet är självförstärkande. När alla använder LoRA skrivs fler handledningar om LoRA, fler verktyg optimeras för LoRA, och alternativa metoder – oavsett hur lovande de är – får svårare att nå ut. Det är inte nödvändigtvis dåligt, men det är ett intellektuellt farligt läge för en bransch som rör sig så snabbt.
Det finns situationer där andra parametereffektiva tekniker presterar bättre: olika typer av uppgifter, olika modellarkitekturer, olika krav på minne kontra träningshastighet. Att reflexmässigt välja LoRA utan att ens pröva alternativen riskerar att lämna prestanda och effektivitet på bordet.
Samma underliggande fråga
Det som förenar dessa till synes olika spår är egentligen en och samma insikt: antaganden behöver utmanas. Antagandet att vi bygger mjukvara enbart för människor. Antagandet att den mest populära tekniken per automatik är den bästa.
Hugging Face gör ett värdefullt arbete när de kvantifierar det vi annars tar för givet. Det är den typen av grundlig, nyfiken ingenjörskultur som driver branschen framåt – inte de stora rubrikerna, utan de noggranna mätningarna.
Vår analys
De här två rönen från Hugging Face är var för sig intressanta – tillsammans pekar de mot något viktigare: AI-branschen har mognat tillräckligt för att börja ifrågasätta sina egna riktmärken och konventioner.
Att designa mjukvara för agenter är inte en framtidsfråga längre – det är en nutidsfråga för alla som bygger verktyg och bibliotek. De team som börjar mäta hur agenter når sina mål, inte bara om de gör det, kommer att få ett avgörande försprång när agentanvändningen skalas upp.
LoRA-diskussionen är ett sunt tecken på intellektuell mognad. Det är lätt att följa strömmen – det är svårare att fråga om strömmen verkligen går åt rätt håll. Min förhoppning är att Hugging Faces analys inspirerar fler team att faktiskt benchmarka alternativ innan de väljer teknik. Det gynnar hela ekosystemet, och i förlängningen de produkter och tjänster som byggs ovanpå det.