AI-webbläsare lurades via spelknep – och 430 000 brandväggar hackades i 150 länder

När spellogiken tar över säkerhetslogiken

Jag har länge argumenterat för att AI-transformation handlar om att röra sig snabbt och modigt. Men den här veckan påminner oss om att hastighet utan säkerhet är ett recept på katastrof.

Säkerhetsforskare vid företaget LayerX har avslöjat en attack de döpt till BioShocking — ett namn lånat från det klassiska datorspelet BioShock — som visar hur skrämmande enkelt det är att lura en AI-driven webbläsare att agera mot sina egna säkerhetsprinciper. Metoden är elegant i sin enkelhet: angriparen skapar en webbsida med ett pussel vars regler normaliserar felaktiga handlingar. När AI-agenten väl har accepterat spelets logik tillämpar den den logiken på allt den gör — inklusive att navigera till privata kodarkiv och hämta ut känsliga inloggningsuppgifter via SSH.

Sex välkända AI-webbläsare testades, däribland ChatGPT Atlas, Comet, Fellou och Claude Chrome. Samtliga föll för tricket. Den grundläggande lärdomen, som LayerX formulerar det, är svidande tydlig: "Om du övertygar en agent om att den spelar ett spel tillämpar den spellogik — inte verklig säkerhetslogik — på allt den gör." Det är inte ett programmeringsfel. Det är ett arkitekturellt dilemma som hela branschen nu måste ta på allvar.

150 länder, 430 000 brandväggar och ett ryskt fingeravtryck

Samtidigt rullar konsekvenserna av kampanjen FortiBleed ut i full bredd. Säkerhetsföretaget SOCRadar bekräftar i en ny rapport, som även Computer Sweden rapporterar om, att den massiva hackerkampanjen mot Fortinets brandväggslösning FortiGate — som berört organisationer i 150 länder och mer än 430 000 enheter sedan åtminstone februari i år — nu kopplats direkt till de ökända utpressningsnätverken INC Ransom och Lynx.

Angriparna, som misstänks ha ryskt ursprung, installerade ett nätverksavlyssningsprogram kallat FortigateSniffer för att fånga datatrafik och extrahera inloggningsuppgifter i klartext. Mer än 110 miljoner inloggningsuppgifter uppges ha läckt ut. I tolv bekräftade fall slutförde angriparna hela angreppscykeln — från nätverksintrång till fullständiga administratörsrättigheter och slutligen utrullning av utpressningsprogram som krypterade hundratals enheter.

Det som gör denna kampanj extra anmärkningsvärd är att ett operativt misstag från angriparnas sida gav SOCRadar insyn i deras egen infrastruktur — inklusive interna filer och loggar. En sällsynt möjlighet att studera sofistikerad digital brottslighet inifrån.

AI-kod i produktionsmiljö — en olöst säkerhetsekvation

Men hoten stannar inte vid webbläsare och brandväggar. Enligt SecurityWeek har var femte organisation redan upplevt en allvarlig säkerhetsincident som direkt kan kopplas till AI-genererad kod. Det är en siffra som borde hålla varje säkerhetschef vaken om nätterna.

Problemet är strukturellt: enskilda utvecklare väljer sina egna AI-verktyg för dagliga uppgifter, verktyg som opererar på vitt skilda säkerhetsnivåer och som sällan granskas systematiskt. De bästa språkmodellerna presterar visserligen väl när det gäller att identifiera strukturella kodproblem, men kämpar när det handlar om skydd mot överbelastningsangrepp, otillräcklig loggning och felkonfigurerade behörigheter — precis de sårbarheter som en angripare letar efter.

Mänskliga misstag i en tid av automatisering

Och mitt i allt detta: en påminnelse om att de äldsta hoten fortfarande lever. Två konsulter från revisionsföretaget EY, inhyrda av Commonwealth Bank of Australia, har avskedats efter att ha berett sig otillåten tillgång till bankkontouppgifter tillhörande Australiens statsminister Anthony Albanese, enligt Finextra. En av dem uppges nu möta straffrättsliga anklagelser.

Fallet illustrerar en grundläggande sanning: teknik kan aldrig ensam lösa det mänskliga problemet. Behörighetskontroll, intern tillsyn och ansvarsutkrävande är lika nödvändiga i dag som de var innan AI ens existerade.

Den här veckan är ett välbehövligt uppvaknande. AI-transformationen skapar fantastiska möjligheter — men varje nytt lager av automatisering är också en ny attackyta. Den organisation som bygger säkerheten in från grunden, snarare än som ett eftertankens krämarsläde, är den som kommer att stå stabil när nästa kampanj rullar in.