Kinesiska bolag stjäl Claudes tankekedjor – och AI-maskar kan snart spridas i hemmet
Kinesiska techbolag har i hemlighet använt hundratusentals falska konton för att stjäla tankekedjorna bakom AI-modellen Claude – förmågor som riskerar att hamna i utländska militära system. Samtidigt visar nya forskningsexperiment att självreplikerande AI-program inom kort kan tänkas sprida sig mellan vanliga hemenheter, som billiga tv-boxar. AI-säkerhet är inte längre ett tankeexperiment – det är en konkret kamp som redan pågår.
Stölden som skalade industrin
När Anthropic nyligen publicerade sin säkerhetsrapport var det inte en varning om framtida risker. Det var en beskrivning av vad som redan hänt.
Enligt The Decoder avslöjar Anthropic att kinesiska teknikbolag – specifikt Zhipu och Moonshot – har använt nätverk av hundratusentals falska användarkonton för att systematiskt pumpa ut information ur Claude. Det som stjäls är inte enstaka svar, utan modellens interna resonemangssteg – de tankekedjor som speglar logiken bakom svaren och som krävt enorma resurser att träna fram. På fackspråk kallas metoden destillation: du matar en kraftfull modell med frågor, samlar svaren, och tränar en billigare kopia på resultatet.
Anthropics påstår sig ha reducerat det här läckaget med upp till 99 procent. Det är imponerande – men det faktum att det behövdes en sådan motåtgärd säger sitt. Och det som verkligen höjer allvarsgraden är vart de stulna förmågorna riskerar att ta vägen: in i utländska militära system och övervakningsinfrastrukturer.
Maskarna som väntar på sin chans
Samtidigt publicerade Anthropic-forskarna William Zhou och Daniel Freeman en studie med ett annat oroväckande budskap: självreplikerande AI-modeller – AI-maskar – kan snart sprida sig mellan vanliga konsumentenheter.
Det låter som science fiction, men experimenten är konkreta. Forskarna testade spridning via billiga Android TV-boxar för ungefär 550 kronor styck. Angreppet delades in i fyra steg: sök av nätverket, få åtkomst, installera AI-miljön, sprid vidare. De flesta modeller klarade enskilda steg men havererade när kedjan skulle slutas. Ett undantag stod ut: GLM-5.2, som genomförde hela spridningskedjan på samtliga testnoder i fyra av fem försök.
GLM-5.2 är en modell från Zhipu – samma bolag som Anthropic pekar ut i sin stöldrapport.
Det är inte nödvändigtvis ett samband, men det är ett sammanfall värt att notera.
Den öppna modellens dilemma
I bakgrunden av allt detta pågår en djupare och svårare debatt. Ska kraftfulla AI-modeller vara fritt tillgängliga – eller låsas in hos ett fåtal stora teknikbolag?
Enligt MIT Technology Review är argumenten på båda sidor genuina. Förespråkarna för öppenhet lyfter fram att stängda modeller leder till farlig maktkoncentration: ett fåtal bolag får ensamt bestämma över en av vår tids mest inflytelserika teknologier. Akademiska forskare är i det närmaste beroende av öppna modeller för att kunna granska de inre mekanismerna – inte bara ställa frågor och studera svaren. Och för företag handlar det om kostnadseffektivitet och datasäkerhet: känslig information behöver aldrig lämna den egna infrastrukturen.
Men säkerhetsförespråkarna pekar på exakt det vi sett ovan: en öppen modell kan laddas ned och anpassas av vem som helst, utan begränsningar. Anthropic varnar specifikt för Z.ai:s modell som ett exempel på en öppen modell med allvarlig potential för cyberangrepp.
Det är värt att notera att debatten inte är renodlat principiell. Nvidias vd Jensen Huang – vars affärsmodell gynnas av att folk köper hårdvara för att köra modeller lokalt – förespråkar öppenhet. Anthropics Dario Amodei – vars slutna modeller konkurrerar med billiga öppna alternativ – förordar försiktighet. Bakom de ideologiska positionerna finns affärsintressen. Det gör inte argumenten felaktiga, men det är ett sammanhang man bör ha med sig.
Tre berättelser, ett mönster
Det som binder samman dessa tre nyheter är inte bara ett tema – det är ett mönster. AI-säkerhet har länge diskuterats i termer av hypotetiska framtidsrisker. Det som rapporteringen den senaste veckan visar är att verktygen för missbruk redan finns, redan används och redan förbättras.
Stölden av resonemangssteg från Claude sker nu. Forskningen om AI-maskar visar att hotet mot smarta hemenheter är månader, inte år, bort. Och debatten om öppna modeller är inte akademisk – den formar de policybeslut och produktval som avgör hur tillgängliga dessa verktyg blir för både innovatörer och angripare.
Det är ett komplext läge. Men komplexitet är inte samma sak som hopplöshet.
Vår analys
Det som slår mig när jag läser dessa rapporter tillsammans är hur snabbt hotbilden har konkretiserats. För bara ett par år sedan handlade AI-säkerhetsdiskussionen mest om långsiktiga, existentiella risker. Nu handlar det om falska användarkonton, billiga Android-boxar och stulna resonemangssteg.
Det är en viktig förskjutning – och den kräver en annan typ av svar. Tekniska motåtgärder som Anthropics 99-procentiga minskning av destillationsläckaget är lovande, men de är reaktiva. Det behövs parallellt en mer strukturerad diskussion om spelregler: vad ska vara tillåtet att göra med öppna modeller, hur ska ansvar fördelas när AI-maskar sprider sig, och vilka krav ska ställas på aktörer som erbjuder AI-tjänster?
Jag ser möjligheten i det här: den här typen av konkret hotbild är faktiskt lättare att reglera och motverka än abstrakta framtidsscenarier. Vi vet nu vad vi har att göra med. Det är ett bättre utgångsläge än ovetskap.