Var tredje dokumenttolkning kan sluta i kollaps – nu lär sig AI:n av sina egna misstag

När AI-modeller fastnar i loop

Du har säkert sett det: en AI-modell som plötsligt börjar upprepa samma mening om och om igen, som ett trasigt kassettband, tills den når sin maximala utdatalängd. Det är inte bara irriterande – i skarp drift kan det vara direkt oanvändbart. Problemet är särskilt uttalat vid dokumenttolkning, där modeller hanterar komplex layout, skannade sidor och varierande textkvalitet.

Forskarlaget bakom DharmaOCR har nu publicerat resultat som ger ett konkret svar på frågan: hur ofta händer det egentligen, och vad kan man göra åt det?

Svaret är både nedslående och hoppfullt. Enligt Hugging Face-bloggen varierade felfrekvensen kraftigt mellan ledande öppna språkmodeller – från under en procent till hela 33 procent beroende på modell. Det innebär att var tredje dokumenttolkning i värsta fall kan sluta i en meningslös upprepningsloop. Det är en felprocent som ingen seriös produktionsmiljö kan acceptera.

Varför räcker inte vanlig finjustering?

Den naturliga första reaktionen är att träna bort problemet med mer data och övervakad finjustering. Forskargruppen prövade detta – och det hjälpte, men inte tillräckligt.

Förklaringen är elegant enkel när man väl förstår den: övervakad inlärning utvärderar modellens svar ord för ord. Det innebär att en upprepningsloop delvis kan se ut som ett rimligt svar i början, och straffet uteblir eller dämpas. Modellen lär sig aldrig att betrakta hela svaret som ett sammanhållet misslyckande.

Det är som att rätta ett prov mening för mening utan att se helheten – man missar att hela stycket spårade ur.

Lösningen: lär modellen av hela svaret

Här kommer det intressanta. Forskargruppen lade till ett andra träningssteg efter den initiala finjusteringen, baserat på metoden direkt preferensoptimering (på engelska kallad DPO). Principen bygger på att:

• Korrekta avskrifter märks som önskvärda
• Upprepningsloopar märks som icke önskvärda
• Modellen tränas på skillnaden mellan dessa två utfall – inte ord för ord, utan på hela svaret som enhet

Detta är en viktig distinktion. Modellen får inte bara veta vad rätt svar är – den lär sig aktivt att undvika felaktiga beteendemönster genom jämförelse. Det liknar hur en erfaren korrekturläsare tänker: inte bara "det här är rätt", utan "det här är bättre än det dåliga alternativet, och här är varför".

Resultaten beskrivs som slående. Tekniken halverade förekomsten av upprepningsloopar jämfört med enbart övervakad finjustering.

Varför detta är viktigt på riktigt

Det kan verka som ett smalt tekniskt problem, men konsekvenserna är bredare än man kan tro. Dokumenttolkning med AI används i dag inom juridik, sjukvård, finans och offentlig förvaltning – miljöer där ett felaktigt svar inte bara är irriterande utan kan få verkliga konsekvenser.

Öppen källkod-rörelsen inom AI har länge kämpat med att komma ikapp de stora proprietära modellerna på tillförlitlighet. En teknik som systematiskt minskar en av de vanligaste felfallerna – utan att kräva massiva mängder ny träningsdata – är precis det slags pragmatiska genombrott som kan göra öppna modeller mer konkurrenskraftiga i verkliga driftsättningar.

Det är också ett bra exempel på hur återkoppling på systemnivå – att bedöma hela svarets kvalitet snarare än enskilda tokens – kan lösa problem som annars kräver enorma datamängder eller mer sofistikerad arkitektur.

För mig som systemutvecklare är det här typen av forskning som faktiskt förändrar vad man vågar sätta i produktion. Tillförlitlighet är inte en bonus – det är en grundförutsättning.