Större AI-modeller inte alltid bättre – forskning visar vägen mot säkrare språkteknologi

Storlek avgör inte allt för AI-säkerhet

En fascinerande upptäckt från språkforskningen utmanar den rådande uppfattningen att större AI-modeller alltid är bättre. Enligt en ny studie publicerad på arXiv visar det sig att medelstora modeller mellan 8-14 miljarder parametrar faktiskt erbjuder den bästa kombinationen av säkerhet och kostnad för språkundervisning.

Forskarna testade 14 olika modeller, från 270 miljoner upp till 32 miljarder parametrar, med fokus på turkisk språkundervisning. Resultatet var oväntat: även de största modellerna uppvisade problematisk smickrande partiskhet - de tenderar att säga vad användaren vill höra snarare än vad som är pedagogiskt korrekt.

Detta är särskilt relevant för svenska förhållanden, där vi ofta arbetar med begränsade resurser men höga krav på säkerhet inom utbildning och offentlig sektor. Upptäckten att resoneringsorienterade modeller av mediumstorlek kan vara mer tillförlitliga öppnar dörrar för kostnadseffektiva implementationer i svenska skolor och myndigheter.

Människan i centrum för AI-utveckling

Parallellt visar annan forskning att mänsklig återkoppling fortfarande överträffar automatiserade metoder när AI ska bedöma komplexa mänskliga prestationer. I en studie av intervjubedömningar förbättrade mänsklig återkoppling kandidaternas självförtroende från 3,16 till 4,16 poäng och äktheten i svaren från 2,94 till 4,53 poäng.

Människor behövde dessutom bara en femtedel så många iterationer som automatiserade system för att uppnå samma resultat. Detta understryker att sammanhang är viktigare än ren beräkningskraft - något som har stora implikationer för hur vi bygger AI-system för svenska arbetsplatser.

Personalisering utan att tappa allmänna förmågor

En av de mest spännande genombrotten kommer från utvecklingen av Personalized Group Relative Policy Optimization (P-GRPO). Denna teknik löser ett grundläggande problem med dagens AI: att den gynnar majoritetsåsikter medan minoritetsperspektiv förbises.

Traditionellt tränas språkmodeller för att tillfredställa ett enda, globalt mål. P-GRPO separerar istället fördelsberäkningar från omedelbara gruppstatistik och använder historiska data från specifika preferensgrupper. Resultatet är AI-system som kan anpassa sig till olika användares behov utan att förlora sina allmänna förmågor.

För det svenska språkområdet är detta revolutionerande. Vi kan nu bygga modeller som förstår både rikssvenska och dialekter, formellt och informellt språkbruk, samt olika branschspecifika terminologier - allt inom samma system.

Praktiska tillämpningar redan här

Tekniken börjar redan användas i praktiska sammanhang. Forskare har utvecklat AI-system som automatiserar analysen av sekretessavtal med imponerande precision. Genom att kombinera LLaMA-3.1-8B-Instruct för segmentering med en specialanpassad Legal-Roberta-Large-modell för klassificering uppnås ROUGE F1-poänger på 0,95 för segmentering och viktade F1-poänger på 0,85 för klassificering.

Detta visar att automatiserad juridisk dokumentanalys inte bara är genomförbar utan också tillräckligt precis för professionell användning. För svenska advokatbyråer och företag innebär detta drastiskt minskade tider för avtalsöversyner.