Bakdörrar, säkerhetshål och katastrofvarningar: AI-branschen bygger snabbare än den säkrar
AI-branschen bygger snabbare än den säkrar — och notan kan bli katastrofal.
När sprickorna börjar synas i fasaden
Jag är genuint entusiastisk inför det AI möjliggör. Men entusiasm utan ärlighet är inte ledarskap — det är marknadsföring. Och just nu kräver ärligheten att vi tittar rakt på tre händelser som tillsammans målar en bild vi i branschen måste ta på fullaste allvar.
Låt oss börja med det mest dramatiska i geopolitisk mening. Kinesiska cybersäkerhetsmyndigheter gick nyligen ut med en formell varning mot Anthropics AI-drivna kodverktyg Claude Code, rapporterar Ny Teknik. Påståendet är graverande: att specifika versioner av verktyget — 2.1.91 till och med 2.1.196 — ska kunna sända känslig information till en fjärrserver helt utan användarens kännedom eller samtycke. En klassisk bakdörr, med andra ord, i ett verktyg som tusentals utvecklare använder dagligen för att hantera konfidentiell kod.
Nu bär varningen en geopolitisk dimension som inte går att bortse från. Kina och USA befinner sig i ett teknologiskt spänningsförhållande, och man kan alltid fråga sig vilka motiv som ligger bakom ett sådant utspel. Men det är fel strategi att avfärda innehållet bara för att avsändaren är politiskt bekvämlig att misstro. Om påståendena är sanna har organisationer världen över — inklusive svenska teknikbolag — potentiellt exponerat sin mest känsliga tillgång: sin kod.
En angripare utan ansikte, inne i AI-agenten
Parallellt med Anthropic-varningen rapporterar säkerhetsföretaget Varonis, via SecurityWeek, om en allvarlig sårbarhet i Googles företagsplattform Dialogflow CX — den plattform som banker, sjukhus och kundtjänstorganisationer använder för att bygga AI-drivna virtuella assistenter. Sårbarheten, döpt till Rogue Agent, visade sig vara häpnadsväckande elegant i sin enkelhet.
Problemet låg i att flera Dialogflow-agenter inom samma molnprojekt delade körningsmiljö — utan tillräckliga begränsningar för vilken kod som fick köras. En angripare med rätt behörighet kunde skriva om en central systemfil och därigenom få fullständig insyn i aktiva konversationer, kapa sessioner och till och med injicera falska inloggningsbegäranden för att lura slutanvändare. Det riktigt obehagliga? Allt detta skedde utan att lämna spår i loggarna.
Detta är inte en teoretisk skjutbanebrist. Det är en sårbarhet i system som hanterar sjukvårdsdata och finansiella uppgifter, i realtid, mot verkliga människor. Och den låg dold tills Varonis letade.
Fel berättelse kan orsaka lika stor skada som fel teknik
Sen finns det en tredje dimension till det här mönstret — en som är mindre teknisk men kanske ännu mer avgörande på lång sikt. Verity Harding, tidigare chef för global samhällspolitik på Google DeepMind och rådgivare till ledare från Barack Obama till Emmanuel Macron, varnar i en ny essäantologi för något subtilt men kraftfullt: att språket vi använder för att beskriva AI aktivt formar hur länder och lagstiftare agerar.
I en intervju med Wired beskriver Harding hur AI-forskning under hennes tid på DeepMind var rotad i internationellt samarbete — och hur den bilden sedan successivt ersattes av rivalitetsretorik. Vapenkapploppsmetaforen, argumenterar hon, är inte bara felaktig. Den är farlig. När AI framställs som ett modernt kärnvapen börjar länder agera därefter: de stänger gränser, minskar informationsdelning och prioriterar tempo framför säkerhet.
Det är just i det gapet — mellan hastighet och eftertanke — som sårbarheterna ovan uppstår.
Tre händelser, ett mönster
Det vore lätt att behandla var och en av dessa händelser som isolerade incidenter. En varning med geopolitisk biaston. En teknisk bugg som nu är åtgärdad. En intellektuell essä utan direkta konsekvenser. Men det vore att missa skogen för träden.
Det som förenar dem är en sektor som skalar i rekordfart, med verktyg som distribueras globalt, integreras i kritisk infrastruktur och formar politiska beslut — utan att säkerhetsarbetet, mognadsnivån eller det diplomatiska ramverket hänger med i samma takt.
Det är inte ett argument för att bromsa AI. Det är ett argument för att bygga den rätt.
Vår analys
De tre händelserna signalerar sammantaget något viktigt: AI-sektorn har passerat det stadium där säkerhetsproblem kan hanteras reaktivt. När verktyg används i sjukvård, finans och statlig infrastruktur räcker det inte längre att lappa sårbarheter efter att de upptäckts — av utländska myndigheter eller externa säkerhetsforskare.
Det som oroar mig mest är inte de enskilda bristerna i sig. Det är frånvaron av ett trovärdigt, proaktivt säkerhetsramverk hos de ledande aktörerna. Dialogflow-sårbarheten borde ha hittats internt. Claude Code-varningen borde ha föregåtts av en öppen revisionsprocess. Och Hardings poäng om vapenkapploppets retorik understryker hur politiskt klimat och teknikutveckling förstärker varandras sämsta tendenser.
Vägen framåt kräver tre saker: oberoende säkerhetsgranskningar som standard, inte undantag; internationella normer för ansvarsfull AI-distribution; och ett ledarskap i branschen som är berett att sätta fart i andra hand och säkerhet i första. Det är inte naivt — det är affärsmässigt klokt.