Säkerhetsanställd på Musks AI-bolag avskedades efter internt larm — bolaget anklagas också för att kringgå EU:s AI-förordning

När säkerhetslarmet tystnas

Det borde vara en självklarhet: om någon på ett AI-bolag slår larm om säkerhetsbrister, ska det leda till åtgärder — inte till avsked. Ändå är det precis vad som nu rapporteras ha skett på xAI, enligt Breakit.

En anonym anställd, med uppgifter direkt kopplade till säkerhetsarbetet kring chattroboten Grok, beskriver ett bolag där varningssignaler ignorerades systematiskt. Och när larmet blev tillräckligt högt? Då fick personen gå.

Det som gör fallet särskilt anmärkningsvärt är att visselblåsaren inte pekar ut Elon Musk som den primärt ansvarige, utan en annan av bolagets grundare. Det är en detalj som försvårar den annars så enkla berättelsen om Musk som ensam skurk — och som påminner om att säkerhetskulturen i ett bolag sällan handlar om en enda person, utan om strukturer, incitament och prioriteringar som genomsyrar hela organisationen.

Grok och EU:s regelverk

xAI grundades 2023 och har på rekordtid positionerat sig som en av de mer tongivande aktörerna på marknaden för stora språkmodeller. Grok är integrerad i det sociala nätverket X och marknadsförs som ett frisinnat alternativ till konkurrenter som ChatGPT och Gemini.

Men bakom marknadsföringen tecknar visselblåsarens uppgifter en oroande bild. Bolaget ska inte bara ha ignorerat interna säkerhetsproblem — det ska också aktivt ha försökt undvika att följa EU:s AI-förordning, som trädde i kraft 2024 och ställer tydliga krav på transparens och riskhantering för AI-system som används inom unionen.

Det är en allvarlig anklagelse. EU:s regelverk är inte en frivillig rekommendation, utan bindande lagstiftning med kännbara böter för den som bryter mot den. Att ett bolag med global räckvidd och enorma resurser ska ha valt att aktivt försöka kringgå reglerna — om uppgifterna stämmer — är inte bara ett juridiskt problem. Det är ett grundläggande trovärdighetsfall.

Ett mönster som upprepas

Jag vill vara tydlig: jag är genuint positiv till vad AI-tekniken kan åstadkomma. Språkmodeller som Grok, ChatGPT och Gemini representerar en teknisk kapacitet som för bara några år sedan skulle ha verkat science fiction. Det finns enormt mycket gott att bygga med dessa verktyg.

Men den positiva potentialen gör det ännu viktigare att säkerhetsarbetet tas på allvar. Och här är branschens track record nedslående.

xAI är långt ifrån ensamt. Flera stora AI-bolag har tidigare kritiserats för att tysta anställda som lyft fram risker. Hos OpenAI har före detta anställda vittnat om hård tystnadskultur. Hos Google har säkerhetsforskare sagt upp sig i protest. Mönstret är återkommande nog för att det ska vara svårt att avfärda det som enstaka undantag.

Problemet är strukturellt: bolagen befinner sig i en intensiv kapplöpning där snabbhet premieras, där varje lansering innebär konkurrensfördelar, och där en intern säkerhetskritiker lätt uppfattas som ett hinder snarare än en tillgång. Det är en farlig dynamik — och den leder till dåliga beslut.

Vad händer nu?

xAI har ännu inte kommenterat uppgifterna offentligt, enligt Breakit. Det är i sig talande. Transparens är inte bara ett krav i EU:s regelverk — det är också grundförutsättningen för att allmänheten ska kunna lita på de system som i allt högre grad fattar beslut som påverkar oss alla.

Visselblåsarens identitet är ännu inte offentlig. Det är begripligt — att slå larm i en bransch med starka ekonomiska intressen och litet rättsligt skydd är förenat med verkliga risker. Men berättelsen har kommit ut ändå, och det är ett tecken på att det finns människor inom branschen som vägrar acceptera att säkerhetskultur är valfri.

Det ger mig faktiskt en viss tillförsikt.