Oskyldig gripen efter algoritmbeslut – motbevis som friade honom nådde aldrig domaren

En siffra som missförstods – med dramatiska följder

Robert Dillon, 52 år gammal och bosatt i Fort Myers i Florida, har aldrig satt sin fot i Jacksonville Beach. Det hindrade inte polisen från att gripa honom anklagad för att ha försökt locka med sig ett barn under tolv år – ett brott som begicks i november 2023 vid ett McDonald's i just den staden, mer än 50 mil från hans hem.

Grunden för gripandet var en träff i FACES – ett av USA:s äldsta polisiära ansiktsigenkänningssystem, drivet av Pinellas County Sheriff's Office. Systemet innehåller tiotals miljoner brottsregisterfoton och körkortsbilder och angav en 93 procents likhet mellan Dillons ansikte och en suddig bild, fotograferad med mobilkamera från en övervakningsskärm. Enligt en stämningsansökan som ACLU lämnade in förra veckan, rapporterar Wired, valde utredarna att tolka den siffran som ett starkt bevis – trots att den enbart beskriver hur lika två bilder ser ut för algoritmen, inte hur sannolikt det är att de föreställer samma person.

Det är en distinktion som låter teknisk men är avgörande.

Bevisen pekade åt fel håll – ändå hölls de tillbaka

Det som gör fallet särskilt graverande är att det fanns konkreta motbevis som aldrig nådde domaren som utfärdade häktningsbeslutet. Automatiska nummerskyltsläsare visade att inget av Dillons fordon befann sig i närheten av brottsplatsen vid tidpunkten. En restaurangchef uppgav till utredarna att den misstänkte mannen var en stamkund hon sett många gånger – en person hon uppenbarligen kände igen, vilket gör det ännu mer osannolikt att Dillon var rätt person.

Inget av detta vägde tillräckligt tungt mot den algoritmskapade siffran.

Det påminner om ett klassiskt kognitivt fel: när ett system ger ett konkret tal – 93 procent – tenderar vi att tolka det som mer exakt och tillförlitligt än det faktiskt är. Siffran ger en känsla av vetenskaplig objektivitet som kan ta överhanden över mer svårvärderade, mänskliga vittnesuppgifter.

Ett gammalt system med välkända svagheter

FACES är inte ett nytt system – det är ett av de äldsta i sitt slag i USA. Det är värt att påminna om vad forskning och granskningar upprepade gånger har visat om ansiktsigenkänning inom brottsbekämpning: systemen presterar generellt sämre på personer med mörkare hudton, äldre individer och lågupplösta bilder. En suddig mobilbild av en skärm är precis den typ av underlag där felmarginalen är som störst.

Att ett system är gammalt och etablerat ger det inte automatiskt hög tillförlitlighet – ibland är det tvärtom ett tecken på att det inte hunnit uppdateras i takt med vad vi vet om dess begränsningar.

Mönstret upprepas

Dillons fall är tragiskt, men det är inte unikt. Under de senaste åren har flera liknande fall uppmärksammats i USA – personer som gripits, suttit häktade och fått sina liv upp-och-nervända baserat på felaktiga ansiktsigenkänningsträffar. Gemensamt för många av dem är att algoritmen användes som ett startskott för utredning snarare än som ett av många verktyg som värderas kritiskt.

Det är inte tekniken i sig som är problemet – ansiktsigenkänning kan vara ett legitimt hjälpmedel i en utredning. Problemet uppstår när en algoritms utdata behandlas som ett bevis snarare än ett uppslag, och när de kontroller som borde finnas i processen – kritisk granskning, fullständig information till domstolen, mänskligt omdöme – sätts ur spel av tilltron till ett procenttal.

För Dillon innebär det att han fortfarande lever med efterdyningarna av ett felgrep han inte förtjänade. Det är det mänskliga priset av en teknik som ännu inte används med tillräcklig eftertanke.