Liten beslutsmodell slår giganter – nio gånger färre parametrar men högst poäng i jämförelsen
Liten modell slår jättarna – nio gånger färre parametrar, högst poäng ändå.
AI som fattar beslut – inte skriver romaner
De flesta av oss tänker på stora språkmodeller som textgeneratorer: du ställer en fråga, modellen producerar ett svar ord för ord, token för token. Det fungerar utmärkt för chatbottar och textsammanfattning, men det är hopplöst långsamt när du behöver ett svar på 20 millisekunder i ett inbyggt system.
Det är precis det problemet som Liquid AI adresserar med sina nya modeller, som presenteras via Hugging Face. Istället för att generera text stegvis svarar d1-modellerna i ett enda beräkningssteg. Det är en fundamental arkitekturskillnad som inte bara gör modellerna snabbare – den gör dem lämpliga för en helt annan kategori av problem.
Det handlar om beslutsmodeller, inte språkmodeller. Tänk avsiktsklassificering, giftighetsdetektering, medicinsk frågebesvarning, läsförståelse – uppgifter där svaret är en kategori, ett ja eller ett nej, en riskbedömning. Uppgifter där varje millisekund räknas.
Siffrorna talar för sig själva
Den större av de två modellerna, d1-3B, uppnår ett genomsnittsresultat på 82,9 poäng över sju offentliga riktmärken. Det är inte bara bra för sin storlek – det är det högsta resultatet i jämförelsetabellen, enligt Hugging Face-bloggen, och det uppnås med upp till nio gånger färre parametrar än konkurrenterna.
Den lilla syskonmodellen, d1-omni-600M, är ännu mer fascinerande ur ett tekniskt perspektiv. Med bara 600 miljoner parametrar hanterar den tre modaliteter – text, bild och ljud – och slår ändå Decider 2B med sina 77,1 poäng. Det är visserligen ett tidigt forskningsstadium, men riktningen är tydlig.
I samarbete med NVIDIA har Liquid AI också testat d1-3B direkt på hårdvara i Jetson-familjen, NVIDIAs plattform för kantbaserad AI. Resultaten är konkreta och praktiska:
- 16 ms svarstid på NVIDIA Jetson AGX Thor
- 26 ms på Jetson AGX Orin
- 50 ms på den mer kompakta Jetson Orin Nano
På ett vanligt grafikkort landar svarstiden under 10 millisekunder.
För att sätta det i perspektiv: mänsklig reaktionstid ligger runt 150–250 ms. En modell som svarar på 16–50 ms på inbyggd hårdvara är inte bara snabb – den är snabbare än systemet runt om hinner reagera.
Varför kantdatorer är nästa front
Under de senaste åren har AI-utvecklingen till stor del handlat om att bygga allt större modeller och köra dem i molnet. Det har gett imponerande resultat, men det medföljer uppenbara begränsningar: nätverksberoende, fördröjning, energiförbrukning och i många fall integritetsproblem.
Kantbaserad AI – att köra modeller direkt på enheten, nära datakällan – löser flera av dessa problem på en gång. Det är avgörande i sammanhang där nätverksuppkoppling inte kan garanteras, där svarstider måste vara deterministiska, eller där känslig data inte får lämna enheten. Industrirobotar, medicinska diagnosverktyg, fordonssystem, smarta kameror – listan på tillämpningar är lång.
Hittills har kantbaserad AI ofta inneburit kompromisser: antingen kör du en liten, begränsad modell, eller så accepterar du att det tar tid. Liquid AI:s modeller utmanar den avvägningen på ett övertygande sätt.
Öppet tillgängligt – och det spelar roll
Båda modellerna är öppet tillgängliga via Hugging Face. Det är inte en detalj – det är ett strategiskt val som avgör hur brett genomslaget kan bli. När en modell är öppen kan forskarsamhället granska den, industriutvecklare integrera den utan licenskostnader, och startup-bolag bygga produkter utan att vara beroende av en enda leverantörs molntjänst.
I en tid då debatten om öppen kontra sluten AI-utveckling är intensiv, är det värt att notera att Liquid AI väljer transparensen. Det stärker förtroendet för tekniken och sänker tröskeln för adoption.
Det här är inte AI som en molntjänst du prenumererar på. Det är AI som ett verktyg du äger, driftsätter och styr själv.
Vår analys
Liquid AI:s lansering är intressant av flera skäl som sträcker sig bortom de imponerande riktmärkena. Det vi ser är en tydlig mognadsrörelse i AI-branschen: från att optimera för kapacitet till att optimera för driftsättbarhet.
Under lång tid har prestanda mätts i hur väl en modell klarar akademiska tester. Nu börjar fältet ta på allvar att en modell som kräver ett datacenter för att köras har begränsat praktiskt värde i många verkliga sammanhang.
Den arkitekturella idén bakom beslutsmodeller – ett enda beräkningssteg istället för sekventiell tokengenering – är inte ny i teorin, men att se den här nivån av prestanda i en öppen, driftsättningsredo modell är ett konkret steg framåt.
Jag tror vi kommer se fler aktörer följa samma spår: specialiserade, effektiva modeller för specifika uppgiftstyper, optimerade för kantmiljöer. Det är en sund och välkommen diversifiering av ett fält som länge haft en nästan monokulturell fixering vid allt större generella modeller.