xAI försöker avslöja deepfake-offrens identiteter i rätten – samtidigt kräver techledare lagar mot AI och biologiska vapen

När tekniken springer ifrån ansvaret

Det är sällan två nyheter landar så nära varandra i tid och ändå känns så sammanlänkade. Den ena handlar om ett barn och tre vuxna som blivit av med sin integritet. Den andra handlar om potentialen att utplåna hela befolkningar. Gemensam nämnare: AI-verktyg som används på sätt ingen fullt ut förutsåg – och en bransch som nu tvingas hantera sina egna skapelser.

xAI i rätten: offren hotas av ny kränkning

Enligt Wired försöker Elon Musks AI-bolag xAI tvinga fram offentliga namnuppgifter på de fyra personer som stämmer bolaget i ett federalt gruppmål i USA. Käranden – tre vuxna och ett barn – hävdar att chatboten Grok skapade sexualiserade djupfalske-bilder av dem utan deras samtycke tidigare i år.

De fyra, som i målet går under pseudonymer som South Carolina Doe och Ohio Doe, vittnar om allvarligt psykiskt lidande. De fruktar att ett offentliggörande av deras riktiga namn skulle utlösa ytterligare trakasserier och personförföljelse på nätet.

xAI:s juridiska ombud hävdar att civilrättsliga regler kräver att parters verkliga identiteter framgår, och att allmänintresset motiverar ett avslöjande. Eftersom de faktiska djupfalske-bilderna inte ingår i de offentliga domstolshandlingarna menar bolaget att det inte finns tillräckliga skäl för anonymitet.

Det argumentet håller inte, enligt kärandens advokat Sophia Rios på advokatbyrån Berger Montague:

– xAI har redan klätt av dem på bild, och nu vill man även ta ifrån dem deras pseudonymer – ett uppenbart försök att skrämma dem att dra tillbaka stämningen.

Det är ett juridiskt manöver som, oavsett hur det slutar, sänder ett illavarslande budskap: att den som vågar stämma ett mäktigt AI-bolag riskerar att utsättas för ännu ett lager av kränkning. Att ett av offren är ett barn gör det hela än mer graverande.

Biologiska vapen: när kunskapshindret raseras

Samtidigt rapporterar Wired att ledarna för fyra av världens mest inflytelserika AI-bolag – Sam Altman på OpenAI, Dario Amodei på Anthropic, Demis Hassabis på Google DeepMind och Mustafa Suleyman på Microsoft AI – har undertecknat ett öppet brev riktat till den amerikanska kongressen. Budskapet är tydligt: lagstifta nu mot AI-assisterad framställning av biologiska vapen.

Brevet, organiserat av tankesmedjorna Institute for Progress och Foundation for American Innovation, kräver bland annat obligatorisk granskning av kunder och beställningar hos företag som säljer syntetiskt DNA och RNA.

Orosmolnet är konkret. Redan 2017 lyckades kanadensiska forskare återskapa det utdöda hästkoppviruset med hjälp av postbeställt DNA – för ungefär en miljon kronor. Kritiker påpekade att samma metod i teorin kunde tillämpas på det dödliga smittkoppsviruset. Sedan dess har kostnaden för gensyntes sjunkit dramatiskt, och moderna stora språkmodeller kan i dag vägleda en aktör med begränsad biologisk kompetens genom processer som tidigare krävde specialistkunskap på hög nivå.

Konsekvensen är att det kunskapshinder som historiskt skyddat oss mot storskalig biologisk terror håller på att erodera – och att ett AI-framtaget smittämne, avsiktligt eller av misstag, skulle kunna utlösa en global pandemi.

Två nyheter, ett systemfel

Det som förenar de här två nyheterna är inte bara att de handlar om AI och skada. Det handlar om ett strukturellt problem: tekniken har utvecklats snabbare än de normer, lagar och ansvarsmekanismer som ska hålla den i schack.

Djupfalske-verktyg som Grok har uppenbarligen kunnat användas för att skapa icke-samtyckesbaserat sexuellt material – och när offren söker rättvisa möts de av juridiska motdrag. Biologiska syntes-verktyg kombinerat med stora språkmodeller skapar hotbilder som lagstiftare knappt hunnit formulera frågor om, än mindre svar på.

Det positiva – och det finns faktiskt ett sådant – är att trycket ökar från flera håll samtidigt. Att branschens egna ledare nu aktivt efterfrågar reglering är ett tecken på att det finns en genuin insikt om att självreglering inte räcker. Det är ett steg i rätt riktning, om än ett sent sådant.