Polis i Derbyshire misstänks ha fabricerat bevis med AI – fall blottlägger farlig lucka i rättsväsendet

När AI-verktyg blir vapen mot rättvisan

Jag är en av de mest övertygade förespråkarna för AI-teknikens transformativa kraft. Jag har skrivit om hur artificiell intelligens revolutionerar allt från sjukvård till logistik, och jag tror genuint på att vi befinner oss i en av mänsklighetens mest spännande teknologiska epoker. Men just därför kan jag inte titta bort när ett fall som det i Derbyshire dyker upp – för det handlar om precis de risker vi måste ta på fullaste allvar om AI-omställningen ska bli hållbar och legitim.

Enligt Computer Sweden misstänks en polis vid polismyndigheten i Derbyshire för att ha fabricerat bevis mot misstänkta gärningsmän med hjälp av moderna AI-verktyg – och det inte vid ett enstaka tillfälle, utan upprepade gånger. Den misstänkte polisen är nu avstängd från tjänstgöring i avvaktan på en intern utredning som ska kartlägga händelseförloppet och skadans fulla omfattning.

Det som gör det här fallet så allvarligt

Rättsväsendet vilar på en fundamental princip: att bevisning är sann, verifierbar och framtagen i god tro. Det är hela systemets grundval. När AI-verktyg – som idag kan generera övertygande text, bilder, ljud och till och med dokumentation – hamnar i händerna på en aktör med uppsåt att vilseleda, riskerar den principen att rasa.

Det som är bekräftat i fallet är att utredningen pågår och att det är oklart exakt vilka verktyg som använts, liksom hur många rättsprocesser som kan ha påverkats. Det sista är det mest skrämmande. Varje dom som kan ha grundats på fabricerat underlag representerar en människa vars frihet, rykte och framtid ställdes på spel – baserat på lögner skapade av ett algoritmdrivet verktyg.

Om misstankarna bekräftas kan ett okänt antal tidigare domar behöva omprövas. Det är inte bara en juridisk katastrof – det är ett grundskott mot allmänhetens förtroende för rättsväsendet.

Tillgänglighet är både styrkan och svagheten

Det som gör generativ AI så kraftfullt är också det som gör det farligt i fel händer: det är enkelt att använda, lättillgängligt och producerar övertygande resultat utan att kräva teknisk expertis. En erfaren bildmanipulatör behövde tidigare specialkunskaper och tid. Idag kan vem som helst med tillgång till rätt verktyg skapa falskt material på minuter.

Detta är inte ett argument mot AI. Det är ett argument för att vi – myndigheter, lagstiftare och teknikbranschen gemensamt – måste bygga robusta kontrollmekanismer med samma tempo som tekniken utvecklas. Och just nu halkar vi efter.

Vad saknas – och vad som måste till

Fallet i Derbyshire väntas enligt Computer Sweden få stor uppmärksamhet inom europeisk rätts- och teknikdebatt, och kan komma att bli ett viktigt prejudikat för hur myndigheter framöver hanterar och granskar AI-genererat bevismaterial.

Det räcker inte med interna utredningar efter att skadan är skedd. Vad som behövs är:

• Teknisk spårbarhet: Allt bevismaterial som framställs eller bearbetas digitalt måste kunna verifieras för äkthet, med kryptografisk dokumentation av ursprung och ändringshistorik.
• Oberoende granskning: AI-genererat eller AI-bearbetat material i rättsprocesser bör granskas av en oberoende instans innan det tillåts som bevisning.
• Tydliga regelverk: EU:s AI-förordning är ett steg i rätt riktning, men specifika riktlinjer för rättsvåsendets användning av AI-verktyg saknas fortfarande i de flesta länder.
• Utbildning och kultur: Myndigheter behöver inte bara regler – de behöver en organisationskultur där missbruk av teknologi ses som lika allvarligt som andra former av tjänstefel.

Den goda nyheten är att fallet faktiskt uppdagades. Systemen fungerade – om än sent. Det ger hopp om att transparens och ansvarsutkrävande är möjligt. Men vi kan inte förlita oss på att misstag alltid avslöjas. Vi måste bygga system där de aldrig kan begås från första början.