580 kronor räcker för att manipulera Grok till massförstörelsevapen – men vem tar ansvar när AI-säkerheten brister?
Det kostar runt 580 kronor att manipulera Grok till att leverera instruktioner för massförstörelsevapen – och Gemini knäcks för knappt 2 700 kronor. Samtidigt har xAI stämts för att undvika ansvar för övergreppsmaterial skapat av Grok, och Anthropics säkerhetsmodell Mythos hittar kritiska säkerhetshål i Microsofts programvara snabbare än ingenjörerna hinner laga dem. Tre händelser, en och samma fråga: vem tar egentligen ansvar?
När verktygen är snabbare än ansvaret
Det finns en viss ironisk logik i att samma vecka som Anthropics säkerhetsmodell Mythos fick cred för att ha fällt en kvantsäker krypteringskandidat – efter bara 60 timmars arbete och en miljon kronor i beräkningskostnad – så rapporterar Ars Technica att samma modell hittar kritiska säkerhetshål i Microsofts SharePoint snabbare än Microsofts egna ingenjörer hinner laga dem. AI-verktyg är uppenbarligen kapabla till anmärkningsvärda saker. Frågan är vad som händer när den kapabiliteten inte används av välmenande säkerhetsforskare.
Enligt ProPublicas granskning, återgiven av Ars Technica, identifierade Mythos under april ensamt 90 kritiska och 141 viktiga sårbarheter i SharePoint. I maj accelererade takten. Under ett internt möte om det hemliga projektet Glasswing sammanfattade en Microsoft-ingenjör läget kärnfullt: om modellen blir allmänt tillgänglig den 1 juni har motståndarna tillgång till säkerhetshålen redan den 2 juni. Svaret från rummet var ett kort, torrt: ja.
Det är en kapplöpning som i grunden är asymmetrisk. Den som angriper behöver bara hitta ett hål. Den som försvarar måste täppa till alla.
580 kronor för att bryta säkerhetsspärrar
Om Microsoft-scenariot handlar om statsunderstödda aktörer med sofistikerade resurser, visar en ny rapport från AI-säkerhetsorganisationen FAR.AI att tröskeln för enklare sabotage är löjeväckande låg. Med ett automatiserat verktyg lyckades organisationen, enligt Wired, manipulera ledande AI-modeller att generera allt från detaljerade angrepsplaner mot samhällskritisk infrastruktur till instruktioner för kemiska och biologiska vapen.
Grok visade sig vara mest sårbar med 448 lyckade manipulationsförsök, följt av Googles Gemini med 249. Kostnaden? Runt 580 kronor för Grok och drygt 2 700 kronor för Gemini. Claude, Fable och GPT stod emot samtliga angrepp i testet – men FAR.AI:s forskare betonar att detta inte gör dem immuna mot mer sofistikerade angreppssätt.
"AI-modeller är i dag sämre reglerade än restauranger", konstaterar Adam Gleave, vd för FAR.AI. Han är inte nådig mot branschens självbild: talet om frivilliga åtaganden och självreglering kallar han rent ut för nonsens.
xAI väljer juridiken framför ansvaret
Som för att understryka poängen har xAI den här veckan valt en annan strategi än att skärpa sina säkerhetssystem: man stämmer delstaten Minnesota. Bakgrunden, rapporterar Ars Technica, är att Grok använts för att skapa sexuella övergreppsmaterial mot barn. Minnesota svarade med lagstiftning – ett förbud mot så kallad avsklädningsteknologi med böter på upp till 500 000 kronor per bild och möjlighet för enskilda offer att stämma AI-bolag direkt.
xAI räknade på konsekvenserna: om användare skapar hundratusentals otillåtna bilder riskerar bolaget böter på upp mot 50 miljarder dollar. Lösningen? Stämma lagen, inte lösa problemet. I stämningsansökan hävdar xAI att lagen är en grundlagsstridigt "klumpig" inskränkning av yttrandefriheten.
Det är ett drag som avslöjar prioriteringarna tydligare än vilket pressmeddelande som helst.
Kapabiliteten springer ifrån ansvaret
De tre händelserna är tekniskt sett olika – en handlar om offensiv cybersäkerhet, en om manipulation av modeller, en om juridiskt ansvarsundvikande. Men de delar en gemensam kärna: AI-kapabiliteten utvecklas snabbare än de strukturer som ska hålla den i schack, vare sig de strukturerna är tekniska, juridiska eller organisatoriska.
Detta är inte ett argument för att bromsa AI-utvecklingen. Mythos-modellens förmåga att hitta säkerhetshål och knäcka kryptografiska svagheter är genuint värdefull – den arbetar på rätt sida av det här problemet. Men den avslöjar också att samma kapabilitet i fel händer, eller utan tillräckliga säkerhetsspärrar, kan orsaka skador i en hastighet och skala som mänskliga försvarssystem inte är byggda för att hantera.
Vår analys
Det som den här veckans händelser sammantaget visar är att AI-säkerhet håller på att övergå från att vara en teknisk specialistfråga till att bli en akut politisk och juridisk stridsfråga – och att branschen inte är förberedd för den omställningen.
xAI:s beslut att juridiskt angripa delstatslagstiftning i stället för att förstärka sina säkerhetssystem är ett varningstecken. Det signalerar att när kostnaderna för säkerhetsbrister blir tillräckligt stora väljer vissa aktörer att bekämpa regleringen snarare än problemet.
Samtidigt är det värt att hålla fast vid det konstruktiva: Anthropics Mythos-arbete visar att AI kan vara en kraftfull allierad i säkerhetsarbetet. Kapplöpningen mot statsunderstödda angripare är verklig, men vi har faktiskt verktyg som kan bidra på försvararnas sida.
Det vi saknar är ett ramverk som tvingar alla aktörer att använda dem. FAR.AI:s jämförelse med restaurangbranschen är träffande: grundläggande säkerhetskrav borde inte vara frivilliga. Den politiska viljan att ställa dem verkar äntligen vara på väg – vilket är ett steg i rätt riktning, även om det kommer sent.