En halv miljon ansikten skannade — noll brott lösta med tekniken: Ändå bygger London ut övervakningen
En halv miljon ansikten skannade — ett enda brott löstes aldrig ändå byggs övervakningen ut.
När siffrorna talar tydligare än argumenten
Det finns ögonblick då ett enda faktum skär igenom all debatt och tvingar fram en ärlig fråga. Det här är ett sådant ögonblick.
Enligt uppgifter rapporterade av The Guardian och vidarebefordrade av Computer Sweden genomförde British Transport Police (BTP) under perioden februari till juli i år 18 separata insatser med ansiktsigenkänning vid Londons mest trafikerade järnvägsstationer. Totalt skannade tekniken ansiktena på över en halv miljon resenärer. Kostnaden landade på drygt 320 000 pund, och nära hundra polistimmar investerades i projektet.
Resultatet: en träff. Och den var felaktig.
Polisen uppger att andra gripanden gjordes under insatsernas gång — men understryker själva att dessa inte hade något samband med ansiktsigenkänningstekniken. Med andra ord: tekniken bidrog med noll till den faktiska brottsbekämpningen, samtidigt som den skannade och registrerade hundratusentals helt oskyldiga människors ansikten utan deras samtycke.
Mer av samma — trots magert resultat
Det som verkligen provocerar är vad som hände efter att resultaten blev kända. I stället för att dra i bromsen valde BTP att förlänga testperioden med ytterligare fyra månader och utöka användningen till stationer i Londons tunnelbanenät.
Detta är ett mönster vi känner igen från teknikutvecklingens historia: när en satsning väl är gjord — ekonomiskt, politiskt och organisatoriskt — är tröghetskraften enorm. Man fortsätter inte för att tekniken fungerar, utan för att det känns omöjligt att erkänna att den inte gör det.
Parlamentets gemensamma människorättskommitté har reagerat och pekat ut ansiktsigenkänning som ett tydligt exempel på de risker som följer med artificiell intelligens i statlig tillämpning. Kritikerna lyfter fram två centrala problem: integritetsintrång i stor skala och teknikens dokumenterade tendens att felidentifiera personer — i synnerhet individer med mörkare hudton. Det sistnämnda är inte spekulation; det är ett välbelagt mönster som upprepat påvisats i oberoende granskningar av kommersiella ansiktsigenkänningssystem.
Vad en felaktig träff egentligen kostar
En felidentifiering låter som en teknisk detalj. Det är det inte. I praktiken innebär det att en oskyldig person stoppas, identifieras som misstänkt och utsätts för polisens uppmärksamhet — med allt vad det innebär i form av stress, stigma och potentiellt förlorat förtroende för rättssystemet. Multiplicera det med storskalig driftsättning i offentliga miljöer, och vi talar om ett system som systematiskt riskerar att kränka oskyldiga medborgare.
Jag är genuint entusiastisk kring vad AI kan åstadkomma inom brottsbekämpning — bättre resursstyrning, mönsterigenkänning i stora datamängder, prediktiv analys av brottsutveckling. Men det kräver att tekniken faktiskt fungerar, och att driftsättning sker med proportionalitet och rättslig grund.
Ett system med noll korrekta träffar och en felaktig har ett träffsäkerhetsförhållande som är sämre än slumpen. Det är inte en minor setback att optimera bort — det är ett grundläggande ifrågasättande av hela premissen.
Tilliten är teknikens viktigaste tillgång
Det bredare problemet handlar om tillit. Varje gång ett högt profilerat AI-system levererar resultat av den här kalibern, och myndigheterna ändå väljer att bygga ut det, eroderar förtroendet — inte bara för den specifika tekniken, utan för AI i offentlig sektor i stort.
Det är ett pris vi inte har råd att betala. Särskilt inte nu, när AI-omställningen befinner sig i en kritisk fas där allmänhetens acceptans är avgörande för hur snabbt och på vilket sätt tekniken kan användas för att skapa verkligt värde.
Londons järnvägsexperiment är inte ett misslyckande för AI som helhet. Men det är ett tydligt misslyckande för hur ansiktsigenkänning just nu används i offentliga miljöer — och ett kraftfullt argument för att kräva transparent redovisning, oberoende granskning och tydliga rättsliga ramar innan tekniken rullas ut i ännu större skala.
Vår analys
Det här resultatet är inte förvånande för den som följt fältet — men det är viktigt. Ansiktsigenkänning i realtid i offentliga miljöer är tekniskt sett ett av de svåraste problemen inom datorseende: varierande ljusförhållanden, rörliga folkmassor, och databaser med miljontals ansikten skapar en kombination där även små felmarginaler leder till massvis med felaktiga träffar.
Den verkliga lärdomen här är inte att AI är farligt — det är att driftsättning måste föregås av ärlig kapacitetsbedömning. Att fortsätta ett program vars träffsäkerhet är noll, och dessutom expandera det, signalerar att besluten drivs av politisk vilja snarare än evidens.
Framåt ser jag två möjliga vägar: antingen skärps kraven på dokumenterad prestanda och rättslig proportionalitet innan tekniken får användas — eller så fortsätter vi på nuvarande spår tills ett tillräckligt allvarligt missbruksfall tvingar fram lagstiftning i krisläge. Det första alternativet är klart att föredra, för teknikens skull såväl som för medborgarnas.