AI-systemen imponerar i labbet – men vem tar smällen när de misslyckas på riktigt?

Löftena är verkliga – men så är bristerna

Det råder ingen brist på innovation inom AI-forskningen just nu. Vecka efter vecka presenteras nya ramverk, nya tekniker och nya genombrott. Men om man läser de senaste forskningsartiklarna med lite mer kritisk blick träder ett intressant mönster fram: den tekniska ambitionen är hög, men klyftan till verklig, pålitlig nytta är fortfarande betydande.

Ta de goda nyheterna först – och de är genuint goda.

Ett forskarlag har presenterat ASIRF, ett agentbaserat system som automatiskt maskerar känslig information i text utan att behöva tränas om när det byter bransch eller sammanhang. Det låter som en detalj, men det är en verklig smärtpunkt. Traditionella sekretessfilter är i praktiken fastlåsta vid de definitioner som gällde när de tränades. ASIRF hämtar istället domänspecifika definitioner dynamiskt, och presterade bättre än Googles och OpenAIs befintliga filter i 85 procent av de testade kombinationerna. Det är siffror som faktiskt betyder något för en organisation som behöver hantera känsliga patientuppgifter ett kvartal och affärskritiska kontrakt nästa.

På effektivitetsfronten redovisar ett annat forskarteam ett ramverk som bygger på så kallade koroutiner – ett programmeringsmönster där en AI-agent genererar ett Python-program som kan pausa och återuppta körningen vid varje verktygsväxling. Resultatet: i median krävs bara två modell-anrop per uppgift, trots sju separata agentvarv, och uppgifter löses på 1,8 sekunder. I en officiell tävling vann systemet sin kategori med 60 procents godkännandegrad – 4,5 gånger bättre än referenslösningen – till lägst kostnad och snabbast svarstid. Det är siffror som varje teknisk chef som arbetar med AI-agenter i produktion borde lägga märke till.

Och sedan finns ALOE, en teknik för att redigera vad stora språkmodeller "vet" med millimeterprecision. Problemet med att uppdatera faktakunskap i en modell är att man riskerar att radera angränsande information – som att byta en lösdel och av misstag förstöra granndelarna. ALOE löser detta genom semantiska adresser inlärda från omformuleringar och liknande men felaktiga exempel, med träffsäkerhet upp till 0,999 och bevarad omgivande kunskap upp till 1,000. Det öppnar dörrar för modeller som faktiskt kan hållas uppdaterade utan kostsam omträning.

Men sedan kommer verkligheten

Mitt i dessa lovande laboratorieresultat publicerade ett forskarteam IndicBankBench – ett riktmärke utformat för att mäta hur pålitliga AI-assistenter faktiskt är inom indisk privatbanking. Resultaten är nedslående. Av elva utvärderade språkmodeller klarade bara 43,7 till 58,2 procent samtliga tre körningar av varje testfall. Ser man istället till om modellen lyckades minst en gång stiger siffrorna till 60–74 procent – en siffra som låter bättre men, som forskarna påpekar, ger en vilseledande optimistisk bild av systemens verkliga pålitlighet. Vanliga feltyper är häpnadsväckande vardagliga: assistenten ber om information den redan har, väljer fel konto, skriver fel belopp trots att rätt svar angetts.

Detta är inte ett indiskt problem. Det är ett strukturellt problem med hur vi utvärderar AI innan vi driftsätter det.

Och vem äger egentligen beslutet?

Den kanske mest obehagliga frågan ställs av en forskargrupp som studerat ansvarsfördelning vid AI-assisterade beslut. Deras slutsats är skarp: debatten har fastnat i fel frågor – om AI användes, om det redovisades, om det kan spåras. Det verkliga problemet är att bedömningar och beslut kan formas av AI utan att någon människa eller institution är beredd att stå bakom dem. De ger exempel från vetenskaplig kollegial granskning och kreativt skapande, men mönstret är universellt. När en bankassistent hjälper till att fatta ett kreditbeslut och något går fel – vem är det som äger det beslutet?

Regler om transparens och spårbarhet är nödvändiga, men inte tillräckliga. Vi behöver tydligare definiera vilka roller AI spelar och vilka bedömningar som kräver ett otvetydigt mänskligt ägarskap. Det är inte en teknisk fråga. Det är en organisatorisk och etisk fråga som varje ledningsgrupp måste ta ställning till innan man driftsätter systemen – inte efteråt.