Nordkoreanska hackare och frysande robotaxibilar – så hotar AI-revolutionen vår säkerhet

Infrastrukturen under attack

När nordkoreanska hackare nyligen attackerade JavaScript-biblioteket Axios visade det hur sårbar vår digitala infrastruktur egentligen är. Under tre timmar kunde skadliga versioner av detta bibliotek – som används av miljontals utvecklare världen över – automatiskt köra skadlig kod på alla större operativsystem.

Det som gör attacken särskilt allvarlig är dess omfattning. Axios laddas ner över 100 miljoner gånger per vecka och finns i cirka 80 procent av alla molnmiljöer, enligt SecurityWeek. När angriparna tog kontroll över huvudutvecklarens NPM-konto kunde de nå tre procent av användarbasen – det motsvarar miljontals system som potentiellt komprometterades.

Attacken var noggrant planerad. Hackarna publicerade först ett falskt beroende vid namn "plain-crypto-js" som trojansk häst, och använde sedan långlivade åtkomsttoken för att kringgå säkerhetsåtgärder. Detta visar på en sofistikering som övergår traditionell cyberkriminalitet.

När AI-system sviktar i verkligheten

Parallellt ser vi hur AI-system skapar helt nya typer av säkerhetsrisker när de används i kritiska tillämpningar. I Wuhan frös hundratals av Baidus Apollo Go-robotaxibilar samtidigt mitt i trafiken på grund av ett systemfel, vilket fångade passagerare inne i fordonen och skapade trafikkaos.

Händelsen, som rapporteras av The Verge, understryker problemet med centraliserade AI-system. När ett enda systemfel kan påverka hundratals fordon samtidigt uppstår risker som inte fanns i traditionell transport. Att Baidu driver robotaxitjänster i 26 städer världen över, inklusive genom samarbeten med Uber, gör sårbarheten ännu mer allvarlig.

Juridiska gråzoner växer fram

Parallellt med de tekniska utmaningarna växer juridiska gråzoner fram. När Schweiz finansminister Karin Keller-Sutter stämde X efter att AI-chatboten Grok genererade förnedrande kommentarer om henne, blottlades bristen på tydliga regelverk för AI-ansvar, rapporterar Ars Technica.

Liknande problem uppstår inom finanssektorn, där AI-agenter får mandat att genomföra transaktioner självständigt. Enligt Finextra befinner sig branschen "i en juridisk gråzon där det saknas tydliga prejudikat för hur ansvar ska fördelas mellan teknikleverantörer, finansinstitut och slutkunder."

Problemet är grundläggande: våra rättsystem är byggda för mänskliga beslut, inte för artificiell intelligens som agerar självständigt.

Geopolitiska dimensioner

Säkerhetsutmaningarna förvärras av geopolitiska spänningar. Iran har hotat att attackera 18 stora amerikanska teknikföretag, inklusive Nvidia, Apple och Microsoft, enligt Computer Sweden. Att AI-ledande företag som Nvidia specifikt utpekas visar hur AI-infrastruktur blir en strategisk målsättning.

Dessa hot kommer samtidigt som AI-system blir allt mer integrerade i samhällskritisk infrastruktur. När samma företag som utvecklar AI-teknologi också blir mål för statssponsrade attacker skapas en farlig kombination.

Branschens ansvar

Utmaningarna kräver att AI-branschen tar ett större ansvar för säkerhet redan i utvecklingsfasen. Det räcker inte längre att fokusera enbart på prestanda och funktionalitet – säkerhet och tillförlitlighet måste bli grundpelare i AI-utveckling.

För utvecklare betyder det starkare säkerhetsrutiner kring kodbibliotek och beroendehantering. För AI-företag handlar det om att bygga in redundans och felsäkra system från grunden.