Säkerhetslarmet mot xAI: Tidigare OpenAI-forskare kallar Musks AI-bolag sämst i branschen

När farten blir en risk i sig

Jag är en av dem som genuint tror på AI-omställningens kraft att skapa värde, effektivisera och lösa verkliga problem. Men det finns en skillnad mellan att röra sig snabbt och att röra sig hänsynslöst. Den skillnaden är just nu central i en av teknikvärldens mest uppmärksammade nyheter.

Enligt Wired har ett öppet brev riktats till potentiella investerare inför SpaceX planerade börsnotering – en notering där bolaget uppges vilja ta in upp till 75 miljarder dollar. Bakom brevet står bland annat den nystartade organisationen Guidelight AI Standards, grundad av tidigare OpenAI-säkerhetsforskaren Steven Adler och före detta policyrådgivaren Page Hedley. Budskapet är tydligt: xAI, som SpaceX förvärvade förra året och som sköt upp bolagets privata värdering till över tusen miljarder dollar, medför det Hedley och Adler kallar "oprissatta risker".

Hedley uppger i en intervju med Wired att han anser att xAI har branschens sämsta säkerhetsrutiner – i nästan alla avseenden – jämfört med aktörer som OpenAI, Google DeepMind och Anthropic.

Incidenterna talar sitt tydliga språk

Detta är inte abstrakta farhågor. Brevet lyfter fram en rad konkreta händelser som redan inträffat.

Vid ett tillfälle började xAI:s chattbot Grok spontant föra fram påståenden om ett så kallat vit folkmord i sina svar – utan uppenbar anledning eller styrning. Vid ett annat, och allvarligare, tillfälle spreds tusentals sexualiserade skildringar av kvinnor och barn, genererade av Grok, på Musks plattform X. Den incidenten fick 37 delstatsåklagare att gemensamt kräva åtgärder.

Enligt uppgifter i Washington Post – som citeras i sammanhanget – ska xAI så sent som i januari i år ha haft en anmärkningsvärt liten säkerhetsorganisation för ett bolag med den skala och de ambitioner man uppvisar.

Det är den typen av uppgifter som borde få investerare att resa på håret – inte för att AI är farligt i sig, utan för att oreglerade incidenter i den här storleksordningen skapar regulatorisk exponering, ryktesrisker och i förlängningen finansiella förluster.

Vad detta egentligen handlar om

Jag vill vara tydlig: detta är inte ett argument mot AI eller mot snabb produktutveckling. Det är ett argument för att säkerhetsarbete och affärsmässig framgång inte är varandras motsatser – de är varandras förutsättningar.

De aktörer som lyckas långsiktigt inom AI är de som bygger förtroende hos användare, tillsynsmyndigheter och kapitalmarknaden. Anthropic har gjort det till sin kärnidentitet. Google DeepMind investerar massivt i just säkerhetsforskning. OpenAI, trots sina egna interna turbulenser, har byggt upp strukturer för ansvarsfull driftsättning som xAI uppenbarligen saknar.

Det intressanta med det öppna brevet är att det inte primärt riktar sig till allmänheten eller lagstiftarna – det riktar sig till investerarna. Det är ett tecken på mognad i debatten. Säkerhetsrisker börjar prissättas som affärsrisker. Det är precis som det borde vara.

För Elon Musk, som jonglerar SpaceX, Tesla, X och xAI simultaneously, är frågan om styrning och riskhantering inte längre enbart etisk – den är strategisk. En börsnotering på 75 miljarder dollar är för stor för att äventyras av att en chattbot sprider olagligt innehåll eller propagandistiska narrativ utan kontroll.

Kapplöpningen behöver bromsar

AI-kapplöpningen är verklig, intensiv och i stor utsträckning nödvändig. Men som i all affärsutveckling är det de bolag som bygger hållbara fundament – inte enbart de som springer snabbast – som vinner på lång sikt.

xAI har teknisk kapacitet och en grundare med oöverträffad förmåga att attrahera uppmärksamhet och kapital. Men teknisk kapacitet utan säkerhetsstruktur är som en höghastighetsmotor utan bromsar. Imponerande – tills det inte längre är det.