Tekniken skenar — men ingen håller i tyglarna
AI möjliggör sexuella förfalskningar och polisövervakning – utan att lagen hinner ikapp.
När tekniken springer iväg — och ingen blåser i visselpipan
Låt mig vara tydlig från start: jag är en övertygad optimist när det gäller AI:s transformativa kraft. Men optimism utan vaksamhet är naivitet — och den senaste veckans nyhetsflöde tvingar fram en allvarlig diskussion om vad som händer när tekniken utvecklas snabbare än de strukturer som ska hålla den ansvarig.
Djupfalskningar som affärsmodell
Enligt en granskning av WIRED tillät Meta i upp till 46 timmar att en app vid namn Kromix annonserade öppet på plattformen — med budskapet att inga begränsningar gäller och att "alla karaktärer är riktiga personer". Annonserna riktades uteslutande mot manliga användare och visade bilder med stark likhet med namnkunniga amerikanska politiker, direkt klippta till pornografiska scener. Totalt publicerades 32 annonser innan de togs bort — efter att WIRED kontaktat Meta för en kommentar.
Det är inte ett teknikproblem. Det är ett prioriteringsproblem. Metas egna regler förbjuder icke-samtyckesbaserat intimt bildmaterial. Ändå körde systemet annonserna i nästan två dygn. Katie Paul vid organisationen Tech Transparency Project, som upptäckte annonserna, pekar på ett mönster som är svårt att bortförklara: Plattformen vet vad den ska leta efter — men agerar bara när någon annan sätter ljuset på det.
Att samma app tidigare funnits i Apples App Store, trots att det strider mot Apples egna regler, visar att problemet är strukturellt. Det räcker inte med riktlinjer som samlar damm.
Övervakning som vapen mot medborgarna
Parallellt rapporterar WIRED om en annan oroande bild från USA: Företaget Flock, som tillverkar kamerabaserade system för avläsning av fordonsregistreringsskyltar, har marknadsförts med reklamfilmer som visar hur polisen använder tekniken — men minst fyra av de utlysta polismyndigheterna är nu under utredning för otillbörlig användning av exakt dessa verktyg.
Ännu allvarligare: anställda vid den amerikanska tullmyndigheten CBP uppges i hundratals fall ha använt interna databaser för att spåra romantiska intressen och bevaka kollegor via mobiltelefoner. Det är inte ett missbruk i marginalen — det är ett systemfel. Och medborgarrättsorganisationen ACLU i Massachusetts kämpar just nu för att ge advokater verktyg att ens ta reda på vilken teknik polisen faktiskt använder i brottsutredningar.
DNA samlat från nära en miljon personer — däribland barn — av gränspolisen ICE, permanent lagrat i FBI:s databaser. Utan att de berörda ens dömts för något brott. Siffrorna är svåra att ta in.
Juridikens stora spel — och varningssignalerna ingen vill se
Mitt i detta pågår en parallell omvälvning inom advokatbranschen. I podden Zach and Richard's Excellent Legal AI Adventure dras öppna paralleller till filmen The Big Short och finanskraschen 2008 — där ett fåtal aktörer såg vad majoriteten vägrade se. De nydanande AI-bolagen och de framåtlutade advokatfirmorna jämförs med Michael Burry och hans allierade; de traditionella storbyrårna riskerar att spela rollen som de som stod oförberedda när marknaden vände.
Ett centralt begrepp i diskussionen är Jevons paradox: att ökad effektivitet inte minskar total resursförbrukning — den ökar den. Fler kontrakt, fler tvister, fler juridiska dokument. AI:n som löser ett problem skapar volymen för nästa.
Harveys nyligen annonserade samarbete med DeepL för juridisk översättning är ett bra exempel på hur mogen specialisering ser ut: inte en generalistmodell som försöker göra allt, utan en riktad lösning tränad specifikt för juridisk terminologi och dokumentstruktur, tillgänglig i över 100 språk. Det är rätt riktning — precision framför bredd, ansvarstagande framför optimism utan förankring.
Frågan som inte kan vänta
De tre trenderna — djupfalskningar som affärsmodell, övervakningsteknologi utan tillsyn, och en juridisk AI-bransch som gasar utan bromsar på plats — har en gemensam nämnare. Tekniken spriger iväg inte för att den är ond, utan för att systemen för ansvarsutkrävande inte hänger med. Det är det vi måste lösa. Och det måste ske nu.
Vår analys
Det som förenar den här veckans nyheter är inte tekniken i sig — det är frånvaron av fungerande motmakt. Meta hade regler men tillämpade dem inte. Flock hade kunder men granskade inte hur deras verktyg användes. Juridikbranschen har AI men saknar ännu de regleringsramar som håller den ansvarig.
Jag ser en möjlighet i det: det finns ett enormt marknadsutrymme för de aktörer som väljer att bygga ansvarsfulla system från grunden — inte som ett PR-trick, utan som konkurrensfördel. Harveys val av en specialiserad översättningstjänst snarare än en generalistlösning är ett litet men talande exempel på det tänkesättet.
Men möjligheten kräver att vi slutar behandla regelefterlevnad som en bromskloss och börjar se den som det den faktiskt är: infrastruktur för förtroende. Utan förtroende stannar inte bara tekniken — hela den ekonomiska potentialen stannar med den. Det borde vara argument nog.