Dubbelt så snabb som konkurrenterna – JetBrains släpper fri AI-modell för utvecklare

Snabb, öppen och byggd för att passa in

Det händer saker i verktygsmarknaden för utvecklare, och JetBrains senaste drag är ett tydligt bevis på det. Enligt Hugging Face-bloggen har företaget nu lanserat Mellum2, en ny språkmodell byggd från grunden för att hantera både programkod och naturligt språk – med ett uttalat fokus på hastighet och låg svarstid.

Det som omedelbart sticker ut är arkitekturvalet. Mellum2 bygger på en så kallad Mixture-of-Experts-design, ett mönster som blivit alltmer populärt bland moderna modeller. Principen är elegant: totalt rymmer modellen tolv miljarder parametrar, men aktiverar bara 2,5 miljarder per bearbetad token. Det innebär att modellen kan röra sig snabbt utan att behöva ladda hela sin kapacitet för varje förfrågan – lite som att ha ett stort specialistteam där bara rätt experter kliver fram för varje uppgift.

Resultatet, enligt JetBrains, är mer än dubbelt så snabb inferens jämfört med jämnstora konkurrenter, med bibehållen konkurrenskraft på etablerade riktmärken inom kodgenerering, matematik och resonemang.

Inte här för att vara störst – utan snabbast

En sak som jag verkligen uppskattar med JetBrains kommunikation kring Mellum2 är ärligheten om modellens roll. De gör inga anspråk på att ha byggt det nästa stora allt-i-ett-systemet. Tvärtom: Mellum2 är tänkt som en komponent, en snabb och precis pusselbit i större AI-drivna produktionssystem.

Det är en mognadsmarkör. Moderna AI-system i produktion är sällan en enda stor modell som gör allt – de är orkestreringar av flera samverkande modeller med olika ansvarsområden. En modell sorterar inkommande förfrågningar. En annan hämtar relevant information. En tredje sammanfattar eller planerar nästa steg. Mellum2 är designad just för dessa roller, där kraven på hastighet är höga men uppgifterna inte nödvändigtvis kräver de allra kraftfullaste modellerna.

I praktiken gör det Mellum2 till ett intressant alternativ för team som vill bygga egna AI-drivna utvecklingsflöden utan att förlita sig helt på molntjänster med höga kostnader per anrop.

Apache 2.0 – en licens som faktiskt spelar roll

Modellen släpps under Apache 2.0-licensen, och det är ingen liten detalj. Det innebär att Mellum2 fritt kan användas, modifieras och integreras – även i kommersiella produkter – utan de begränsningar som följer med mer restriktiva licenser. Det är en tydlig signal till ekosystemet: JetBrains vill att modellen sprids och används.

Detta är ett välbekant mönster från öppen källkod-världen, men det är fortfarande relativt ovanligt bland företag som investerat tungt i att träna egna modeller. Att öppna upp skapar förstås konkurrens från oväntat håll – vem som helst kan nu bygga på Mellum2 – men det bygger också förtroende och lockar bidragsgivare från gemenskapen.

Jämför man med hur exempelvis Microsofts GitHub Copilot eller Googles Gemini Code Assist hanterar sina underliggande modeller (stängda, proprietära, svarta lådor ur användarens perspektiv) är JetBrains approach en annan filosofi. Det är ett bet på öppenhet som konkurrensmedel.

Vad det betyder för dig som utvecklare

Om du jobbar med JetBrains-verktyg till vardags är det troligt att du kommer att möta Mellum2 som en del av JetBrains AI-assistent framöver – med snabbare svarstider och mer precisa kodförslag som möjligt resultat.

Men den mer intressanta möjligheten är kanske för dem som bygger egna system. En snabb, öppen modell med dokumenterat god prestanda på kodrelaterade uppgifter, fri att integrera och anpassa – det är ett verktyg som kan sänka trösklarna för att bygga skräddarsydda AI-funktioner utan att fastna i en enda leverantörs ekosystem.

Det är precis den typen av valmöjlighet som saknats i branschen.