AI hjälper krossa kriminella nätverk – men kan själv bli ett vapen mot oss
AI krossade ett kriminellt nätverk – och kan lika lätt vändas mot oss.
Kriget om den digitala infrastrukturen har aldrig varit hetare
Det är lätt att tro att cybersäkerhet handlar om enskilda hackare i mörka källare. Verkligheten är en helt annan. Det vi bevittnar i dag är ett industrialiserat informationskrig där organiserad brottslighet driver affärsmodeller lika sofistikerade som vilket teknikbolag som helst – med delad infrastruktur, rollfördelning och skalbarhet.
Därför är det en verklig milstolpe när Microsoft och Europol, inom ramen för Operation Endgame, lyckas slå ut den gemensamma styrnings- och kontrollinfrastrukturen bakom skadetyperna Amadey och StealC. Enligt SecurityWeek stals över 25 miljoner unika inloggningsuppgifter från mer än 385 000 system – uppgifter som nu beslagtogs snarare än såldes vidare på den kriminella marknaden. Kryptotillgångar till ett värde av drygt 470 miljoner kronor spårades och spärrades.
Det som gör insatsen särskilt anmärkningsvärd är metoden. Genom analys med hjälp av artificiell intelligens kunde man konstatera att de två skadetyperna delade samma underliggande infrastruktur – en insikt som drastiskt förenkladde nedstängningsarbetet. Det är ett lysande exempel på hur AI kan fungera som ett kraftmultipliceringsvapen för försvarssidan.
Men AI i försvarsrollen är ingen mirakelkur
Här är det dags att bromsa entusiasmen en smula – utan att tappa den.
Samtidigt som AI-verktyg hjälper oss att knäcka kriminella nätverk, bygger vi system som kan skapa nya slagkrafter på helt fel håll. SecurityWeek rapporterar om en växande oro kring självständiga AI-system inom cybersäkerhet – system som inte bara analyserar, utan faktiskt agerar. Emanuel Salmona, vd för Nagomi Security, formulerar det brutalt tydligt: "Ge det ofullständig data och det kommer ändå att agera. Med tillförsikt. Snabbt. Felaktigt."
Tänk dig ett sådant system som inte känner till att en viss server är affärskritisk. Vid ett säkerhetslarm stänger det ner servern omedelbart – och med den följer kanske hela betalningsflödet för ett sjukhus eller en bank. Beslutet fattades på millisekunder, utan mänsklig granskning. Det är inte science fiction; det är en reell riskbild som branschexperter nu lyfter med stigande oro.
Autonomitet utan rätt sammanhang är inte styrka – det är ett nytt sårbarhetslager.
Och angriparna behöver inte ens vara sofistikerade
Om autonoma AI-system är morgondagens bekymmer, finns det ett väldigt konkret bekymmer som redan är här i dag. Säkerhetsföretaget XM Cyber har demonstrerat en attackteknik mot macOS som låter en helt vanlig användare – utan administratörsbehörighet – tyst inaktivera säkerhetsprogramvara på företagsnivå. Inga förhöjda rättigheter. Ingen manipulation av operativsystemets kärna. Bara ett smart utnyttjande av hur macOS hanterar förtroende för signerade applikationer.
Tekniken provades framgångsrikt mot bland annat CrowdStrike Falcon Sensor och Kandji MDM. Kandji har publicerat en rättelse och tilldelat sårbarheten ett officiellt identifieringsnummer. Men poängen är skarp: angripare behöver inte AI-superkrafter för att stänga av ditt skydd. Ibland räcker grundläggande ingenjörskonst och ett legitimt användarkonto.
Identiteten som sista försvarslinje
Mitt i allt detta lanserar Entrust en ny strategi för att motverka AI-driven kontokapning – en attack som i dag riktas mot de mest utsatta ögonblicken: lösenordsåterställning, enhetsbyte, stora transaktioner. Logiken är enkel och träffsäker: det räcker inte att kontrollera om någon har rätt att logga in. Du måste verifiera att det faktiskt är en verklig människa – och rätt person – bakom varje rörelse i realtid.
Det är ett paradigmskifte från åtkomstkontroll till identitetsverifiering i realtid, och det speglar en bredare insikt i branschen: när AI gör det enklare att imitera legitima användare med kirurgisk precision, måste säkerhetssystemen bli lika dynamiska som hoten de möter.
Spelplanen förändras – på båda sidor
Vad vi ser just nu är inte en linjär kapprustning. Det är en fullständig omstrukturering av vad cybersäkerhet innebär. Försvarssidan vinner verkliga slag tack vare AI – Operation Endgame är ett bevis på det. Men varje ny förmåga som vi bygger in i autonoma system skapar också nya riskytor som kräver lika rigorös uppmärksamhet som de hot de är satta att möta.
Vår analys
Det som verkligen fångar min uppmärksamhet i veckans nyhetsflöde är inte något enskilt genombrott – det är spänningsfältet mellan dem. Vi är inne i en period där AI ger försvarssidan genuint övertag, vilket Operation Endgame illustrerar med brutal tydlighet. Det är transformativt och det är positivt.
Men vi håller på att bygga autonoma system snabbare än vi bygger ramverk för att styra dem. Risken med ett säkerhetssystem som agerar fel – snabbt och med tillförsikt – är inte hypotetisk. Det är en organisatorisk och teknisk designfråga som måste lösas nu, inte efter den första katastrofen.
Mac-sårbarheten påminner oss dessutom om att hotbilden är lagerbaserad. AI-driven attack är ett lager. Klassisk systemexploatering är ett annat. En mogen säkerhetsstrategi måste hantera båda simultaneously.
Min spaning: de organisationer som vinner det här decenniet är de som inte väljer mellan hastighet och eftertanke – utan bygger strukturer där de kan samexistera.