Säkerhetsincidenter skakar AI-branschen – hackare tog sig in hos Anthropic medan OpenAI kritiseras för hanteringen av våldsfantasier
Hackare angrep Anthropic medan OpenAI kritiseras för säkerhetsbrister.
Amatörhackare knäckte Anthropics säkerhet
En grupp amatörhackare på Discord lyckades få obehörig tillgång till Mythos Preview – Anthropics kraftfulla säkerhetsverktyg som företaget marknadsför som "farligt kraftfullt" för att hitta säkerhetsluckor. Enligt Bloomberg använde hackarna enkel detektivmetodik: de kombinerade uppgifter från ett tidigare dataintrång hos AI-startupet Mercor med välgrundade gissningar om verktygets nätadress.
En av inträngarna utnyttjade även befintliga behörigheter till andra Anthropic-modeller som erhållits genom arbete åt ett underleverantörsföretag. Resultatet blev tillgång inte bara till Mythos utan även andra opublicerade AI-modeller.
För en systemutvecklare är detta djupt oroande. Att ett verktyg designat för säkerhetsanalys kan hackas genom grundläggande informationsinsamling och behörighetseskalering visar på fundamentala brister i åtkomstkontroll och systemarkitektur.
OpenAI missade varningssignaler
Parallellt avslöjar TechCrunch en ännu mer allvarlig incident: OpenAI:s vd Sam Altman har tvingats be om offentlig ursäkt till invånarna i Tumbler Ridge, Kanada, efter att företaget misslyckades med att varna myndigheterna om en användare som senare genomförde en masskjutning.
Företaget hade flaggat och stängt av 18-årige Jesse Van Rootselaars ChatGPT-konto redan i juni 2025, efter att han beskrivit våldsscenarion med skjutvapen. Enligt Wall Street Journal diskuterade OpenAI:s personal att kontakta polisen, men beslutade slutligen att inte göra det. Först efter skjutningen som dödade åtta personer tog man kontakt med kanadensiska myndigheter.
Forskningen visar strukturella problem
Dessa incidenter är inte isolerade händelser. Ny forskning från arXiv avslöjar djupare strukturella problem inom AI-säkerhet. En studie av 23 språkmodeller visar att modellernas benägenhet för oönskat beteende påverkas lika mycket av strategiska som icke-strategiska faktorer – något som gör dem fundamentalt oförutsägbara.
Samtidigt visar annan forskning varför säkerhetsproblemen ofta förblir dolda. En studie av 546 universitetsstudenter avslöjar att rädsla för utvärdering och otydliga riktlinjer leder till att människor döljer sin AI-användning istället för att rapportera problem.
Nya verktyg för bättre kontroll
Ljuspunkten är att forskare aktivt arbetar med lösningar. En banbrytande metod för sannolikhetsverifiering av neurala nätverk har utvecklats, som kan beräkna garanterade intervall för säkerheten när indatan påverkas av störningar. Metoden har testats framgångsrikt på kritiska system som ACAS Xu för flygtrafikstyrning.
Parallellt föreslår forskarsamhället nya utvärderingsramverk som "Machine-Society-Human (MaSH) Loops" för att mäta AI-systems samhällspåverkan istället för bara teknisk prestanda.
Industrin måste vakna upp
Dessa händelser tvingar oss att erkänna en obehaglig sanning: AI-industrin har prioriterat utvecklingshastighet framför säkerhet. När amatörhackare kan ta sig in i säkerhetsverktyg och företag missar uppenbara varningssignaler om våld, har vi ett systemiskt problem.
OpenAI har meddelat förbättrade säkerhetsrutiner med flexiblare kriterier för myndighetskontakt. Men det räcker inte med reaktiva åtgärder – branschen behöver proaktiva säkerhetsramverk byggda in från grunden.
Vår analys: Säkerhet måste bli en grundpelare
Dessa incidenter markerar en vändpunkt för AI-branschen. Vi ser nu konsekvenserna av den "snabbt och slarvigt"-mentalitet som präglat utvecklingen av AI-system. Som systemutvecklare vet jag att säkerhet inte kan lappas på i efterhand – den måste vara inbyggd från början.
Utvecklingen leder mot striktare reglering och branschstandarder. Jag förutspår att vi inom 12 månader kommer se EU:s AI-förordning följas av liknande lagstiftning i Nordamerika, driven av just sådana här incidenter.
Positivt är att forskningsgemenskapen redan utvecklar konkreta lösningar för verifiering och säkerhetstestning. Framtiden ligger i säkerhet genom design – där AI-system byggs med inbyggda kontrollmekanismer och transparens från dag ett. Branschen som helhet måste mogna från en startup-mentalitet till industriell disciplin.