Statshackare och biologiska vapenutvecklare använde Claude – Anthropic bryter branschens tystnadskultur

När AI-verktyget blir ett vapen

Det är lätt att tala om AI som en produktivitetsrevolution. Svårare är det att blicka rakt in i vad som händer när samma teknik hamnar i fel händer. Anthropic – ett av de mest ansedda AI-säkerhetsföretagen i världen – har nu gjort just det, och publicerat en rapport som borde väcka eftertanke i hela branschen.

Enligt rapporten, som Wired uppmärksammat, har Claude utnyttjats i ett brett spektrum av skadlig verksamhet under en period av åtta månader. Det handlar inte om enstaka incident eller misslyckad spamfiltrering – det handlar om statssponsrad hackning, organiserad brottslighet, desinformationskampanjer och i ett antal fall försök att använda Claude som hjälpmedel vid utveckling av biologiska vapen.

Anthropics svar: man uppger att man lyckades stoppa samtliga dokumenterade fall. Men frågan som hänger kvar i luften är obehaglig: hur många fall har man inte sett?

Midnight Blizzard och den organiserade undre världen

Bland fallstudierna sticker ett namn ut omedelbart. Midnight Blizzard – den ryska statsstödda hackargrupp som Microsoft tidigare identifierat och spårat – ska ha använt Claude som ett verktyg för underrättelseinhämtning och intrång mot ukrainska och europeiska regeringsnätverk. Stulen data, bibehållen hemlig åtkomst, och en AI-modell som ovetande assisterade.

Lika uppseendeväckande är hur den organiserade brottsgruppen ShinyHunters ska ha integrerat Claude i i princip varje steg av sin hackning och utpressningsverksamhet. Det är inte längre fråga om ensamma aktörer som testar gränser – det är systematiserade arbetsflöden där AI blivit en naturlig del av den kriminella verktygslådan.

Det som gör Anthropics rapport så viktig är inte enbart de enskilda fallen – utan mönstret de avslöjar. AI-missbruk har blivit vardagligt. Det är inte längre undantaget; det riskerar att bli regeln.

Transparens som strategi – och som ansvar

Anthropics beslut att publicera den här rapporten är i sig anmärkningsvärt. Branschen präglas annars av slutenhet kring missbruksfall – av förståeliga skäl, men med konsekvensen att det samlade kunskapsläget förblir fragmenterat och svårt att agera på.

Här väljer Anthropic en annan väg. Och det förtjänar erkännande. Öppenhet kring missbruk är inte ett tecken på svaghet – det är en förutsättning för att hela ekosystemet ska kunna bli bättre. Säkerhetsforskare, beslutsfattare och konkurrerande AI-företag har nu ett konkret underlag att förhålla sig till.

Samtidigt måste vi vara ärliga: transparens ersätter inte säkerhet. Det räcker inte att dokumentera vad som gick fel i efterhand. Frågan är vilka strukturella skyddsmekanismer som behöver byggas in – inte som eftertanke, utan som grundläggande arkitektur.

Vad det säger om AI-tjänster i stort

Den bredare lärdomen från Anthropics rapport handlar egentligen inte bara om Claude. Den handlar om hela den generation av kraftfulla språkmodeller som nu rullas ut i produktion världen över – av stora och små aktörer, med varierande säkerhetsmognad och resurser.

Om ett företag med Anthropics explicita fokus på säkerhet ändå ser det här missbrukslandskapet – vad ser då företag som prioriterar snabb produktlansering framför djup säkerhetsanalys?

Det är en fråga som politiker, tillsynsmyndigheter och inte minst företagsledare behöver ta på allvar. AI-reglering diskuteras intensivt i Europa och USA, men den verkliga utmaningen är att reglering ofta halkar efter tekniken. Rapporten från Anthropic är ett tydligt argument för att inte vänta.

Jag ser fortfarande enorma möjligheter i AI-omställningen – det är min grundövertygelse. Men möjligheter och risker är inte motpoler. De är oskiljaktiga. Och ju kraftfullare verktygen blir, desto viktigare är det att vi bygger det omgivande skyddssystemet med samma ambition som vi bygger modellerna själva.