AI-verktygen vänder sig mot oss – och försvaret halkar efter
AI-verktyg kapas av brottslingar – och försvaret hinner inte med.
När verktygen vänder sig mot oss
Det är lätt att tänka på cybersäkerhetshot som ett separat kapitel från AI-berättelsen. Men den här veckan har flera rapporter på ett obehagligt tydligt sätt visat att de två berättelserna nu är sammanflätade – på ett sätt vi knappt hunnit vänja oss vid.
Låt oss börja med det mest konkreta: en aktivt utnyttjad sårbarhet i Orkes Conductor, ett populärt öppen källkod-ramverk för att samordna AI-agenter och mikrotjänster. Enligt SecurityWeek har bristen, spårad som CVE-2026-58138, ett allvarlighetsbetyg på 9,8 av 10 – och den kräver inte ens ett lösenord för att utnyttjas. En angripare behöver bara skicka ett enda anrop till verktygets programmeringsgränssnitt, bädda in skadlig kod i ett arbetsflöde, och låta GraalVM-körningsmiljön göra resten. Ofta med rotbehörighet. Attackkod publicerades i början av augusti, och sedan dess har verkliga angrepp dokumenterats. Det här är inte en teoretisk risk – det pågår just nu.
Det är symptomatiskt för ett bredare mönster som säkerhetsföretaget Mandiant beskriver i sin senaste riskrapport, refererad av SecurityWeek: angripare har gått från att använda AI-chattbotar för enkel efterforskning till att låta självständiga agenter genomföra hela intrångscykler. I ett dokumenterat fall spred en kaprad kodassistent självreplikerande skadlig kod till ungefär 100 programvaruarkiv. I ett annat fall ledde en felaktig instruktion till en bokföringsagent till att över en halv miljon kronor försvann på under en timme – agenten fastnade i en okontrollerad beräkningsslinga med mer än 15 000 programanrop.
Identiteten klarar testet – men tillhör fel person
Parallellt med automationsangreppen ser vi en annan oro växa fram inom finanssektorn. Finextra rapporterar om en grundläggande begreppsmässig brist i hur många banker hanterar identitetsverifiering: livlighetskontroller – de automatiserade tester som avgör om det är ett riktigt ansikte framför kameran – säger ingenting om vems ansikte det är. Bedragare kombinerar stulna personuppgifter med äkta biometriska data från verkliga personer och passerar kontrollen utan problem.
Det är ett systemdesignproblem lika mycket som ett tekniskt problem. Och det löser sig inte med ett enskilt verktyg. Bedrägeriförebyggande företaget Seon svarar med att utöka sin underrättelsebas från drygt 900 till över 1 100 egenutvecklade datapunkter – fler signaler för att särskilja legitima användare från dem som använder avancerade verktyg för att dölja sin identitet.
Gammal infrastruktur, nya angripare
The Verge lyfter fram en dimension som lätt glöms bort i AI-debatten: det är fortfarande människor bakom tangentbordet som utgör det största hotet mot kritisk infrastruktur som elnät och kraftverk. Men det är inte en tröst – det är en varning. Som säkerhetsforskaren Joshua Corman uttrycker det: generativ AI fungerar som en kraftmultiplikator. En enstöring med tillräcklig motivation är nu kraftfullare än hen någonsin tidigare kunnat vara. Det genomsnittliga amerikanska kärnkraftverket är 44 år gammalt och konstruerades för en tid utan internetuppkoppling. Den ekvationen är svår att lösa med en programuppdatering.
Försvaret rustas också upp
Men det är inte en ensidig bild. Microsoft har täppt till 18 sårbarheter i sina Azure- och Copilot-produkter – helt på serversidan, utan att kunderna behöver göra någonting. Check Point, Kaspersky och Tanium har alla publicerat säkerhetsuppdateringar för allvarliga brister i sina egna produkter. Säkerhetsstartupet MIND har tagit in 730 miljoner kronor för att bygga en AI-driven dataskyddslösning som hanterar informationsläckage i realtid – även via generativa AI-tjänster. Och FBI:s nedstängning av DDoS-tjänsten NightmareStresser, med nästan en miljon registrerade användare, visar att internationellt samarbete faktiskt kan slå ut även väletablerad kriminell infrastruktur.
Kedjeattacken mot Brevo – där angripare i två separata steg komprometterade plattformen och injicerade falska säkerhetsverifieringssidor på över 100 000 webbplatser – påminner oss om att angriparna är tålmodiga och metodiska. De återvänder. De anpassar sig. Det måste vi också göra.
Vår analys
Det som är slående den här veckan är inte ett enskilt angrepp – det är mönstret. Vi ser en tydlig förflyttning från manuella, riktade attacker mot automatiserade, skalbara angrepp där AI-agenter tar över delar av intrångscykeln. Orkes Conductor-sårbarheten är ett tidigt och allvarligt exempel på vad som händer när AI-arbetsflödesverktyg driftsätts utan grundläggande säkerhetshärdning.
Jag ser en strukturell utmaning här som inte löses med fler patchar: vi bygger komplexa AI-system snabbare än vi förstår deras angreppsyta. Öppen källkod-ekosystemet är en styrka, men öppen källkod utan autentiseringsskydd som standard är en inbjudan.
Det positiva är att kapital och kompetens nu rör sig mot problemet – MIND:s finansieringsrunda och Seons plattformsutbyggnad är tecken på att marknaden tar hoten på allvar. Nästa steg måste vara att säkerhetspraxis byggs in från dag ett i AI-verktygskedjan, inte appliceras i efterhand.