Rättssystemet slår till mot AI-fabricerat övergrepp – tolv sajter beslagtagna i New York

Rättvisan tar ett historiskt kliv

Det har länge funnits en farlig klyfta mellan vad artificiell intelligens kan åstadkomma och vad lagen faktiskt förmår att ingripa mot. Den klyftan krympte påtagligt när Manhattans distriktsåklagare Alvin Bragg, enligt Wired, tillkännagav att New Yorks högsta domstol beslutat om beslag av tolv webbplatser som spred sexuellt fabricerat videomaterial – skapat med hjälp av AI – på verkliga personers bekostnad.

Det handlar inte om en abstrakt integritetsdebatt. Det handlar om skådespelerskor, musiker, idrottare, aktivister, politiker och profiler från sociala medier vars ansikten har klippts in i pornografiskt material utan deras vetskap eller godkännande. Sammanlagt identifierades omkring 1 200 offer.

– De här kränkningarna av privatlivet följer offren in i deras yrkesliv och personliga tillvaro och tar ett enormt psykologiskt toll, sade Bragg i samband med tillkännagivandet.

En skuggindustri som växte i det tysta

Tekniken bakom så kallade deepfakes – övertygande videoförfalskningar skapade med hjälp av maskininlärning – har funnits sedan slutet av 2017. Det är alltså inte en ny företeelse. Men under dessa år har en hel skuggindustri vuxit fram i det dolda: webbplatser, mobilappar och robotprogram som erbjuder användare möjligheten att på några sekunder fabricera sexuellt explicit material med ett verkligt ansikte inlagt i befintliga pornografiska filmer.

Några av de nu beslagtagna webbplatserna uppgav sig ha funnits sedan 2018. Arkiverade versioner visade att enskilda filmer setts tiotusentals gånger. Det är inte nischade skrymmelplatser – det är sajter med massräckvidd och systematisk spridning.

Detta är viktigt att förstå: problemet är inte bara tekniken i sig, utan den affärsmodell som byggts kring den. Dessa webbplatser har existerat som företag, med trafik, annonsintäkter och återkommande användare. Tillslaget i New York är därför inte bara en rättslig markering – det är ett angrepp mot en ekonomisk struktur.

Varför detta är ett vändpunkt

Jag har följt AI-teknikens frammarsch med stor entusiasm, och jag tror genuint på dess transformativa potential. Men det är just därför jag menar att det här tillslaget är så viktigt – och faktiskt hoppingivande.

När kraftfull teknik saknar motvikt i form av regelverk och rättstillämpning riskerar den att urholka förtroendet för hela fältet. Deepfake-industrin för sexuellt fabricerat material är ett extremt tydligt exempel på vad som händer när AI-verktyg hamnar i fel händer utan reellt ansvarsutkrävande. Det skadar offer direkt och konkret. Det är inte en hypotetisk risk – det är dokumenterad skada på tusentals verkliga människor.

Det New York nu gör är att etablera ett prejudikat: att fabricerat sexuellt material, skapat med AI utan samtycke, inte är en juridisk gråzon utan ett brott värt rättsliga åtgärder. Det är ett viktigt steg, och det kommer sannolikt att inspirera liknande åtgärder i andra delstater och länder.

Vad som krävs härnäst

Tillslaget är lovvärt, men det räcker inte. Några centrala utmaningar kvarstår:

Jurisdiktionsfrågan är komplex – många av dessa sajter drivs från länder utanför USA:s räckvidd, vilket kräver internationellt samarbete för att tillslaget ska få bestående effekt.

Plattformsansvaret måste skärpas. Sökmotorer, webbhotell och betalningslösningar har länge kunnat hävda ovetskap. Det argumentet håller inte längre.

Teknikföretagen har ett eget ansvar att bygga in skyddsmekanismer i sina AI-verktyg som försvårar denna typ av missbruk redan vid källan.

Den goda nyheten är att rörelsen nu är tydlig: myndigheter tar problemet på allvar, lagstiftare börjar agera och den rättsliga verktygslådan börjar fyllas på. Det är inte naivt att vara optimistisk här – det är realistiskt. Rättvisan är sen till festen, men den har äntligen anlänt.