89 av 100 AI-agenter underkänns i säkerhetsgranskning – och OpenAIs kodmodell hittade en attack byggd på tio år gamla brister
Nio av tio AI-agenter underkänns – och de skickligaste är farligast.
Det är inte en framtidsfråga längre
Jag brukar vara den i rummet som håller emot när katastrofstämningen tar över. AI är en möjlighet, inte ett hot — det är min grundövertygelse och den håller jag fast vid. Men den senaste veckans nyhetsflöde kräver att vi är raka: AI-säkerhet är ett akut problem, och klockan tickar.
Låt oss börja med det mest grundläggande. Säkerhetsföretaget Adversa AI har granskat 100 AI-agenter och resultatet är nedslående — enligt SecurityWeek uppfyller bara 11 av dem kraven på att vara både användbara och säkra. Det handlar inte om enstaka undantag eller nischade produkter. Adversa beskriver en strukturell egenskap hos hela marknaden: de mest kapabla agenterna exponerar också den största angreppsytan. De kallar det en "kraft-skydds-inversion", och det är en träffande formulering.
Kärnan i problemet är vad rapporten kallar den "dödliga treenigheten": tillgång till privata uppgifter, exponering mot opålitligt innehåll och förmågan att utföra utgående åtgärder. Hela 98 procent av de testade agenterna uppvisar alla tre egenskaperna samtidigt. Det är ungefär som att bygga ett kassavalv med dörren på glänt — och sedan undra varför pengarna försvinner.
AI hittar det vi missat i tio år
Samtidigt visar en annan nyhet från SecurityWeek att AI kan vara en formidabel kraft på försvarssidan. OpenAI:s kodmodell Codex har identifierat en angreppsmetod döpt till HTTP/2-bomben — en kombination av välkända tekniker som ingen människa tidigare verkar ha satt samman på detta sätt. Tre av de underliggande säkerhetsbristerna avslöjades för ett decennium sedan. En fjärde åtgärdades så sent som förra året.
Resultatet kan slå ut webbservrar på sekunder och potentiellt drabba över 880 000 webbplatser som använder HTTP/2 med standardinställningar. NGINX och Apache har nu rullat ut rättningar — men Microsoft IIS, Envoy och Cloudflare Pingora saknar fortfarande åtgärder vid rapporteringstillfället.
Det är ett dubbelt budskap som vi måste hålla i huvudet på en gång: AI kan hitta sårbarheter snabbare än vi någonsin klarat på egen hand, och det innebär att angripare med tillgång till samma verktyg kan göra detsamma.
Hatet rör sig från nätet ut i verkligheten
Den tredje dimensionen av hotbilden är den som kanske är svårast att ta in. Wired rapporterar att amerikanska federala myndigheter nu aktivt övervakar vad de kallar "teknikfientlig extremism" — en rörelse driven av djup oro över att AI ska stjäla jobb och att datacenter ska ta över bostadsområden. Myndigheternas bedömning är tydlig: hatet riskerar i vissa fall att övergå i fysiska dåd.
Datacenter är inte abstrakta serverhallar. De är den fysiska ryggraden i den digitala ekonomin — och de är sårbara på sätt som brandväggar inte kan skydda mot.
Sjukvården tar täten — resten bör följa
Mitt i allt detta finns det faktiskt ljuspunkter. Den amerikanska samordningsgruppen för hälso- och sjukvårdssäkerhet, HSCC, har enligt Healthcare IT News lanserat en detaljerad vägledning för cybersäkerhet kopplad specifikt till AI-system. Guiden täcker allt från traditionell maskininlärning till agentbaserade system och innehåller konkreta checklistor, ansvarsfördelning och mallar för styrelserapportering.
Det är precis rätt prioriteringsordning. Sjukvården hanterar liv och död, och det skärper sinnet. Men de utmaningar HSCC adresserar — dataförgiftning, modellförskjutning, fientliga angrepp mot AI-modeller — är universella. Varje bransch bör studera den vägledningen och anpassa den till sin egen verklighet.
Samtidigt påminner nyheten om att en börschefs e-postkonto var tillgängligt för en okänd angripare i 150 dagar om vad som verkligen står på spel. Femio månaders obehindrad tillgång till insiderinformation från en global börs — det är inte ett tekniskt misslyckande, det är ett strategiskt katastrofscenario.
Möjligheten ligger i att agera nu
Jag vill avsluta där jag alltid landar: i möjligheten. De verksamheter som tar AI-säkerhet på allvar idag bygger ett konkurrensförsprång som blir svårt att ta igen. Säkerhet är inte en kostnad — det är infrastruktur för förtroende, och förtroende är grunden för all affärsverksamhet i den AI-drivna ekonomin.
Vår analys
Det som gör den här veckans nyheter särskilt oroande är inte att hoten är nya — det är att de konvergerar. Vi har länge diskuterat AI-säkerhet som ett framtidsproblem. Men när 98 procent av AI-agenterna på marknaden strukturellt sett är nästan omöjliga att säkra utan att förlora sin funktionalitet, när en AI-modell avslöjar ett decenniegammalt hål som mänskliga experter missat, och när federala myndigheter börjar övervaka fysiska hot mot digital infrastruktur — då är vi i ett nytt läge.
Den viktigaste slutsatsen för beslutsfattare är denna: säkerhet och kapabilitet måste designas tillsammans från grunden, inte boltas på i efterhand. HSCC:s vägledning för sjukvården pekar på rätt väg. Det som behövs nu är branschöverskridande standarder med samma allvar och konkretionsgrad. De verksamheter som inte väntar på att reglering tvingar fram förändringen kommer att vara de som bygger morgondagens mest motståndskraftiga AI-system.