En polis spårade sin ex-partners bil 56 gånger med AI – utan att systemet reagerade

Makten att övervaka – och frestelsen att missbruka den

Det börjar som en intern arbetsplatskonflikt i Alpharetta, Georgia. Men fallet med konstapel Dustin Bozzo avslöjar något långt större än en enskild polismans dåliga omdöme.

Enligt Wired sökte Bozzo upp sin före detta partners registreringsskylt 56 gånger i systemet Flock Safety – ett AI-drivet verktyg för automatisk avläsning av fordonsregistreringsskyltar, utbrett bland poliskårer runtom i USA – under en period på bara tre månader. När han märkte att hennes bil ofta befann sig nära en manlig kollega, vände han systemet mot denne också: 29 sökningar på den personens fordon. Bozzo har nu avgått och en brottsutredning pågår.

Det som gör detta fall så talande är inte att en människa med makt missbrukade den – det har hänt förr och kommer hända igen. Det som är nytt är skalan och enkelheten. Flock Safety kräver ingen domstolsorder, ingen mellanchef som godkänner, ingen kontroll i realtid. En enskild officer kan i tystnad kartlägga en persons rörelsemönster under månader. Det är inte en bieffekt av systemet – det är vad systemet gör, och vem som helst med inloggningsuppgifter kan göra det.

Här uppstår en fundamental fråga som AI-sektorn inte kan blunda för längre: vi skapar verktyg för att öka kapacitet, men vi skapar sällan de institutionella bromsarna i samma takt.

Det digitala slagfältet breddas

Samtidigt som Bozzo-affären rullar upp sig, utspelar sig en helt annan typ av maktmissbruk på europeisk mark. En proryskt hackergrupp vid namn Server Killers tog på sig ansvaret för vad den norska digitaliseringsmyndigheten Digdir beskriver som det allvarligaste cyberangreppet mot statliga digitala tjänster i landets historia, rapporterar SecurityWeek. Angreppet – ett så kallat överbelastningsangrepp – riktades mot infrastruktur som norska medborgare använder dagligen för att nå offentliga tjänster via en gemensam inloggningspunkt.

Tidspunkten är knappast slumpmässig. Angreppet kom dagarna efter att Norges statsminister Jonas Gahr Støre besökt Kyiv och bekräftat fortsatt stöd till Ukraina värt drygt 90 miljarder svenska kronor. Cyber har blivit utrikespolitikens förlängda arm – snabb, förneknelig och kostnadseffektiv för angriparen.

Och det stannar inte vid statsaktörer. Också den amerikanska medicintekniska jätten Boston Scientific meddelade att man den 25 augusti upptäckte ett intrång som nu orsakar globala driftstörningar, rapporterar SecurityWeek. Kundorder kan inte behandlas, affärssystem är nere, och bolaget kan ännu inte ange när systemen är återställda. I livskritisk industri – hjärtsjukvård, neurologi, onkologi – är det inte enbart en ekonomisk fråga. Det är en patientsäkerhetsfråga.

Visa visar vägen – men räcker det?

Mitt i detta läger Visa ett steg i rätt riktning. Betalningsjätten utökar sitt AI-drivna cybersäkerhetssystem och gör delar av det tillgängligt som öppen källkod, enligt Finextra. Tanken är ädel: när fler säkerhetsexperter kan granska och bidra till koden, blir systemet mer tillförlitligt. Öppenhet som försvarsstrategi, helt enkelt.

Det är ett lovvärt initiativ och ett tecken på att de stora aktörerna börjar förstå att cybersäkerhet inte är en konkurrensfördel – det är en gemensam angelägenhet. Men det löser inte grundproblemet som Bozzo-fallet illustrerar: tekniken är redan utplacerad, i händerna på tusentals aktörer, utan tillräcklig styrning.

Flock Safety används av hundratals poliskårer. Hur många Bozzos finns det som aldrig upptäcks? Hur robusta är loggningssystemen? Finns det automatiska larm när en enskild officer söker på samma registreringsskylt dussintals gånger?

Det är dags att ställa de frågorna – högt och tydligt.