Ny teknik krymper kraftfull AI upp till tio gånger – behåller 98 procent av prestandan

Ai i fickan – utan molnberoende

De senaste åren har AI-debatten kretsat kring giganternas kapprustning: vem bygger de störst serverhallar, vem förbrukar mest energi, vem kontrollerar mest data. Det är en värld där tillgång till AI i praktiken förutsätter tillgång till enorma resurser – och en stabil internetuppkoppling. Men det narrativet börjar rämna.

Enligt TechCrunch har startupbolaget PrismML, grundat av forskarteamet bakom Caltech, lyckats komprimera Alibabas välkända öppna språkmodell Qwen3.8 27B från ett tungt, resurskrävande format ner till blott 5,9 gigabyte. Det är en minskning med nio till tio gånger jämfört med originalet – och trots det behåller modellen 98 procent av ursprungsmodellens prestanda enligt vedertagna riktmärken.

Resultatet döps till Bonsai 2 27B, och namnet känns träffande. Precis som bonsaikonsten handlar om att bevara essensen i ett förminskat format, handlar PrismMLs teknik om att destillera AI-modellens intelligens utan att offra det som faktiskt gör den värdefull.

Tekniken bakom krympningen

Hjärtat i PrismMLs metod är något de kallar ternär viktning. I en traditionell språkmodell lagras varje så kallad vikt – de parametrar som styr hur modellen resonerar – med 16 bitar information. PrismMLs angreppsätt reducerar varje vikt till ett av tre möjliga värden: +1, −1 eller 0. Det låter nästan löjligt enkelt, men resultatet är dramatiskt: en bråkdel av det ursprungliga minnesutrymmet, med bibehållen förmåga.

Föregångaren Bonsai 1, som lanserades redan i mars, nådde 95 procent av ursprungsprestandan – och har sedan dess laddats ned över elva miljoner gånger. Det är inte ett akademiskt experiment. Det är ett tydligt marknadssignal om att behovet finns.

Teamet bakom tekniken

Bolaget leds av Babak Hassibi, professor vid Caltech och specialist på komprimeringsteknologi – en person som i decennier arbetat med precis det problem som nu börjar lösas i praktiken. Bland rådgivarna finns Ion Stoica, medgrundare av Databricks och ledare för Berkeleys prestigefyllda Sky Computing Lab. Riskkapitalbolaget Khosla Ventures finns bland investerarna – ett namn som sällan slår fel när det gäller att tidigt identifiera teknologiskiften med verklig tyngd.

Det är med andra ord inte vilka entusiaster som helst. Det är ett team med djup teknisk trovärdighet och ett tydligt uppdrag: att göra avancerad AI tillgänglig utanför datacentret.

Vad betyder detta i praktiken?

Låt oss vara konkreta. En modell på 5,9 gigabyte ryms på en vanlig bärbar dator – och potentiellt på en avancerad smarttelefon. Det innebär att kraftfull AI kan köras lokalt, offline, utan molnuppkoppling. Utan abonnemang. Utan att skicka känslig data till externa servrar. Utan att vara beroende av att OpenAI, Google eller Microsoft väljer att hålla sina tjänster tillgängliga.

Detta är inte en marginell förbättring. Det är ett demokratiseringssprång.

För en läkare i ett område med bristfällig internetuppkoppling. För en journalist i ett land med censurerade nätverksvägar. För ett litet företag som inte har råd med molntjänsternas löpande kostnader. För en skola som vill ge elever tillgång till AI-verktyg utan att vara utlämnad till externa plattformar. I alla dessa sammanhang är skillnaden mellan molnberoende och lokal körning inte teknisk – den är existentiell.

Inte ensamma – men i täten

PrismML är inte de enda som arbetar med modellkomprimering. Metaforsk, Microsoft Research och en rad akademiska grupper har länge undersökt kvantisering och beskärning av modeller. Men kombinationen av nio gångers komprimering, 98 procents bibehållen prestanda och elva miljoner nedladdningar på föregångaren placerar PrismML i en annan liga – åtminstone vad gäller att faktiskt nå användare.

Det tekniska genombrottet är imponerande. Det affärsmässiga beviset är ännu mer övertygande.