Nya kompakta AI-modeller slår större konkurrenter – utan grafikkort

Mindre är mer – och snabbare

De senaste åren har AI-branschen nästan reflexmässigt jagar storhet. Fler miljarder parametrar, kraftfullare grafikkort, dyrare molninfrastruktur. Men Liquid AI väljer en annan väg.

Företaget har via Hugging Face släppt två kompakta kodningsmodeller – LFM2.5-Encoder-230M och LFM2.5-Encoder-350M – och det intressanta är inte bara vad de klarar, utan var de klarar det: på vanlig processorkraft, utan dedikerat grafikkort. Det är ingen liten detalj. Grafikkortsberoende har länge varit en inträdesbarriär för företag och privatpersoner som vill köra AI lokalt. Liquid AI sågar bort den barriären.

Prestandan är anmärkningsvärd med tanke på modellernas storlek. Enligt Hugging Face-bloggen är 230M-varianten ungefär 3,7 gånger snabbare än konkurrenten ModernBERT-base vid långa indata. Vid ett textfönster på 8 192 symboler tar ModernBERT-base över en och en halv minut per beräkningsomgång – LFM2.5-Encoder-230M klarar samma uppgift på cirka 28 sekunder. I praktiken betyder det att ett helt kontrakt, ett mötestranskript eller en lång kundtjänstchatt kan analyseras och klassificeras på under halvminuten, direkt på en bärbar dator.

Den större 350M-modellen placerar sig som fjärde bäst av fjorton utvärderade modeller på riktmärkena GLUE och SuperGLUE – och de tre som slår den är alla väsentligt större, inklusive en modell med 3,5 miljarder parametrar. Det är ett elegant motbevis mot tesen att storlek alltid vinner.

Öppen källkod är dessutom en medveten strategi. Genom att publicera modellerna på Hugging Face bjuder Liquid AI in till granskning, vidareutveckling och integration i existerande system. Det är ett drag som bygger förtroende och snabbar på praktiskt användande.

Viska till ringen, inte skrika mot skärmen

Samtidigt, på hårdvarusidan, rapporterar The Verge om ett uppstartföretag som tar ett annat angrepp på problemet med AI i vardagen. Sandbar har utvecklat den smarta ringen Stream – en liten enhet med mikrofon, batteri och blåtandsanslutning – som låter dig viska kommandon och anteckningar direkt till din telefon utan att behöva prata högt.

Det löser ett genuint socialt problem. Röstigenkänning har tekniskt sett blivit imponerande, men att prata högt till sin enhet på ett kafé eller i kollektivtrafiken skapar friktion – både för en själv och omgivningen. Stream gör interaktionen diskret: för ringen mot munnen, tryck på pekyta med tummen, viska. Några sekunder senare dyker text upp på skärmen.

Användningsområdena är tre: starta ett samtal med en AI-assistent, ta anteckningar och diktera text. Det är avskalat och fokuserat, och det är förmodligen en styrka i ett tidigt skede.

Två produkter, en berättelse

Dessa lanseringar delar en gemensam logik: AI behöver inte kräva ett serverrum eller ett datorcenter för att vara användbar. Liquid AIs modeller visar att beräkningskraften kan bo i det chip du redan äger. Streams ring visar att interaktionsgränssnittet kan krympa till en liten metallring på fingret.

Det är ett trendbrott värt att notera. Inte för att grafikkort eller stora molntjänster försvinner – de kommer fortsätta vara relevanata för de tyngsta uppgifterna. Men för en hel klass av vardagsanvändning – dokumentanalys, anteckningar, klassificering, röststyrning – öppnar sig nu en arkitektur som är lokal, tyst och tillgänglig.

För systemutvecklare innebär Liquid AIs modeller konkret att man kan bygga smarta textanalystjänster utan att skicka data till externa moln, utan dyr infrastruktur och utan att offra svarstider. Det är ett alternativ som många verksamheter väntat på av både kostnadsskäl och integritetsskäl.

För slutanvändaren är Stream-ringen ett intressant experiment i att göra AI-interaktion mer naturlig och socialt accepterad. Det återstår att se om just den formen slår igenom, men riktningen är tydlig: AI-gränssnittet behöver lösgöra sig från skärmen.