Forskning varnar: AI-verktyg kan skapa dolda säkerhetshål i företag

AI-genererade säkerhetspolicyer – ett växande problem

Det låter som en dröm för varje överarbetad säkerhetsansvarig: istället för att manuellt koda komplexa åtkomstkontroller i språk som Rego eller Cedar, beskriv helt enkelt vad du vill åstadkomma på svenska och låt AI:n generera koden. Men enligt ny forskning döljer sig allvarliga säkerhetsrisker bakom denna tillsynes effektiva lösning.

Vatsal Gupta, säkerhetsexpert på Apple, har dokumenterat hur AI-genererade säkerhetspolicyer ofta ser korrekta ut och kompileras utan fel, men ändå ger fel behörigheter till användare. Problemet är att felen är subtila och svåra att upptäcka genom vanlig kodgranskning, enligt SecurityWeek.

Återkommande problemområden

Gupta identifierar flera kritiska brister i hur AI-verktyg hanterar säkerhetsregler. Ett vanligt fel är att sammanhangsberoende begränsningar missas – en policy som ska begränsa åtkomst till en specifik region eller avdelning kan istället ge global åtkomst.

Ett annat återkommande problem är att AI:n fångar undantag i säkerhetsregler men glömmer bort grundprincipen att allt ska vara förbjudet från början. Många säkerhetssystem bygger på denna "deny by default"-princip, men AI:n tenderar att fokusera på de tillåtna undantagen och missa den viktiga grundregeln.

Tidsbegränsade eller kontextberoende regler förenklas ofta till statiska behörigheter, vilket innebär att tillfällig åtkomst blir permanent – en betydande säkerhetsrisk som kan växa över tid.

Cyberhot från flera håll

Samtidigt som företag kämpar med interna säkerhetsutmaningar intensifieras hoten från externa aktörer. Den ryska hackargruppen Star Blizzard, kopplad till säkerhetstjänsten FSB, har enligt SecurityWeek börjat använda exploateringsverktyget DarkSword för att angripa Apple-enheter – första gången gruppen riktar sig mot iCloud-konton och iOS-system.

Europeiska kommissionen bekräftar också att hackergruppen ShinyHunters stulit över 350 gigabyte känslig data från deras molntjänster, vilket understryker att även välresurserade organisationer är sårbara.

I Iran ser vi koordinerade cyberattacker som kombineras med fysisk krigföring. Under en nylig missilattack fick israeliska medborgare textmeddelanden med länkar till påstådda skyddsappar – som istället laddade ner spionprogram medan människor sprang till skyddsrum.

Forskningsframsteg ger hopp

Det finns dock ljusglimtar. Ny forskning visar att språkmodeller faktiskt kan stärka grafneurala nätverks motstånd mot cyberattacker. Studier på arXiv demonstrerar att språkmodellförstärkta grafnätverk uppnår betydligt högre träffsäkerhet och mindre prestandaförsämring jämfört med grundläggande metoder.

Parallellt utvecklas också nya attackmetoder som PEANUT, som avslöjar sårbarheter i grafneurala nätverk genom att injicera virtuella noder. Denna typ av forskning är avgörande för att förstå och åtgärda säkerhetsbrister innan de utnyttjas i praktiken.

Vad svenska företag bör göra

För svenska företag som överväger eller redan använder AI-verktyg för säkerhetsändamål är budskapet tydligt: använd verktygen, men med stor försiktighet. All AI-genererad säkerhetskod måste granskas av erfarna säkerhetsexperter, och företag bör implementera regelbundna säkerhetsrevisioner för att upptäcka dolda fel.

Det är också viktigt att förstå att säkerhetslandskapet förändras snabbt. Statliga aktörer blir allt mer sofistikerade, och kombinationen av AI-genererade sårbarheter och avancerade cyberhot skapar nya utmaningar som kräver uppdaterade säkerhetsstrategier.