EU lovar medborgarna rätt att få AI-beslut förklarade – forskningen avslöjar ett besvärande gap
EU lovar AI-transparens – men forskningen visar att tekniken ännu inte kan hålla löftet.
Rätten på papper – men inte i praktiken
Det låter enkelt nog: om en AI fattar ett beslut som påverkar ditt liv ska du ha rätt att få det förklarat. GDPR slår fast detta, och EU:s AI-akt bygger vidare på samma princip. Men vad händer när vi faktiskt granskar om tekniken lever upp till löftet?
En ny systematisk forskningsöversikt publicerad på arXiv genomlyste 2 643 vetenskapliga artiklar om förklarbar AI – det fält som på engelska brukar förkortas XAI. Resultatet är nedslående: bara 19 av dem integrerade juridiska och tekniska perspektiv på ett meningsfullt sätt. Det är inte en procent. Det är knappt en promille.
Forskarna identifierade tre återkommande grundproblem. Det första är felaktig tolkning av GDPR:s rättsliga grund – utvecklare och jurister talar inte samma språk och landar i olika slutsatser om vad lagen faktiskt kräver. Det andra är bristande kännedom om EU-domstolens vägledande avgöranden, alltså de prejudikat som konkretiserar hur rätten ska tolkas. Det tredje – och kanske mest underskattade – är sammanblandningen av vem en förklaring riktas till kontra vilket juridiskt syfte den ska uppfylla. En förklaring avsedd för en tillsynsmyndighet ser fundamentalt annorlunda ut än en avsedd för den enskilda medborgaren.
Svarta lådor är ett tekniskt, inte bara etiskt, problem
Del av problematiken är rent teknisk. Moderna AI-system – särskilt de stora språkmodeller som nu integreras i allt fler beslutsprocesser – fungerar i stor utsträckning som slutna system. Vi ser vad de producerar, men inte varför.
Här finns dock ett ljus i tunneln. Forskare presenterar i en parallell studie, även den publicerad på arXiv, en ny tolkningsmetod som arbetar på meningsnivå och inte kräver tillgång till en modells inre struktur. Tekniken använder en så kallad energibaserad modell som mellanhand och kan identifiera vilka delar av en indata som haft störst påverkan på ett specifikt svar – utan att behöva göra ytterligare anrop till den underliggande AI-modellen. Det är ett smart sätt att kringgå det faktum att proprietära system sällan öppnar sin källkod för granskning.
Det är just den typen av metodutveckling som behövs för att fylla klyftan mellan juridisk skyldighet och teknisk förmåga. Men en metod gör inte en hel industri.
Ett globalt problem med lokala varianter
Klyftan mellan reglering och verklighet är inte unik för Europa. En tredje studie, också från arXiv, belyser hur Latinamerika saknar grundläggande utvärderingsverktyg för AI anpassade efter regionens egna förhållanden. Utan dessa kan varken offentliga institutioner granska utländska AI-system kritiskt, eller lokala företag optimera AI för regionspecifika behov.
Förslaget som läggs fram – en öppen infrastruktur kallad EvalsHub med LatamBoard som regional instans – är ett konstruktivt svar: bygg en gång, använd löpande, varje gång ett nytt system lanseras eller uppdateras. Det påminner om hur vi inom mjukvaruutveckling tänker kring testramverk. Du skapar inte ett nytt testsvit för varje release – du underhåller ett som växer med systemet.
Parallellen till EU är tydlig. Europa har lagstiftningen men saknar, enligt den systematiska översikten, den tekniska och metodologiska infrastruktur som krävs för att efterleva den. Latinamerika saknar utvärderingsinfrastrukturen men håller på att bygga den. Båda regionerna söker egentligen samma sak: trovärdiga, återanvändbara verktyg för att hålla AI-system ansvariga.
Inför AI-aktens genomförande – en tydlig signal
EU:s AI-akt börjar nu gradvis träda i kraft. Kraven på transparens och förklarbarhet för högrisksystem skärps. Det gör den systematiska forskningsöversiktens slutsats extra besvärande: om inte tekniken, juridiken och metodiken börjar tala med varandra – och snabbt – riskerar rätten till förklaring att förbli en formell skyldighet utan teknisk möjlighet att efterlevas.
Det är inte ett argument mot regleringen. Det är ett argument för att ta den på allvar nog att faktiskt bygga systemen som krävs för att uppfylla den.
Vår analys
Det som gör den här forskningsöversikten särskilt viktig är inte att den konstaterar ett gap – det visste många redan – utan att den kvantifierar det på ett sätt som är svårt att bortse ifrån. 19 av 2 643 artiklar. Det är en siffra som borde landa tungt på skrivborden hos dem som nu implementerar AI-aktens krav.
Jag ser ändå anledning till försiktig optimism. Den nya tolkningsmetoden för slutna modeller visar att forskarsamhället rör sig i rätt riktning. Och initiativ som EvalsHub i Latinamerika visar att tanken på delad, öppen utvärderingsinfrastruktur vinner mark globalt.
Det viktigaste som behöver hända nu är att juridister och systemutvecklare börjar jobba i samma rum – inte i sekvens, utan parallellt från dag ett. Förklarbarhet är inte ett lager du målar på efteråt. Det måste byggas in från grunden. Det vet vi som bygger system. Nu behöver lagstiftarna och domstolarna säkerställa att marknaden också agerar därefter.