Var tredje anställd använder otillåten AI på jobbet – utan att inse riskerna
Var tredje anställd använder förbjuden AI på jobbet – utan att ana riskerna.
AI-transformationen har ett säkerhetsproblem – och det växer snabbare än lösningarna
Låt mig vara tydlig: jag är genuint entusiastisk över vad AI gör för affärsvärlden. Men entusiasm utan ärlighet är inte strategi – det är självbedrägeri. Och just nu ger säkerhetsbilden kring AI-verktyg i företagsmiljöer anledning till allvarlig eftertanke.
Den här veckan rapporterade Computer Sweden att Microsoft identifierat och täppt till tre allvarliga säkerhetsluckor i Autogen Studio – ett verktyg som används av tusentals utvecklare för att bygga och driftsätta AI-agenter. Sårbarheterna, som fått det gemensamma namnet Autojack, gjorde det möjligt för angripare att manipulera AI-agenter till att besöka skadliga webbplatser. Microsoft har ännu inte bekräftat om bristerna utnyttjades aktivt innan de åtgärdades.
Det är en viktig påminnelse: när vi bygger AI-agenter som agerar självständigt på nätet, skapar vi också nya angreppsvektorer. Attackytan växer i takt med automatiseringen.
Skugg-AI är det nya skugg-IT
Men den tekniska sårbarheten är bara ena sidan av myntet. Den andra är mänsklig – och kanske ännu svårare att hantera.
Enligt Thomson Reuters rapport Future of Professionals, återgiven av DI Digital, använder var tredje anställd inom rådgivnings- och professionella tjänstesektorn AI-verktyg som inte är godkända av arbetsgivaren. Fenomenet kallas skugg-AI – en naturlig förlängning av det sedan länge kända begreppet skugg-IT – och det innebär att känslig klientinformation matas in i tjänster utanför företagets kontroll, utan att ledningen ens är medveten om det.
För branscher som juridik, revision och ekonomisk rådgivning – där förtroende och sekretess är affärsmodellens fundament – är detta inte en abstrakt risk. Det är ett konkret regelefterlevnadsproblem med potentiellt förödande konsekvenser, både rättsligt och förtroendemässigt.
Problemet är inte att anställda är illvilliga. Problemet är att tekniken är redo, men organisationerna har inte hängt med. När godkända alternativ saknas hittar människor egna vägar. Det är mänsklig natur.
Hotaktörerna har också hittat egna vägar
Samtidigt som företag brottas med intern regelefterlevnad utnyttjar externa angripare samma tekniska landskap. Säkerhetsföretaget SOCRadar rapporterar att en ryskspråkig hotaktör ligger bakom den storskaliga kampanjen FortiBleed, som komprometterat över 430 000 nätverksbrandväggar världen över och stulit 110 miljoner inloggningsuppgifter. Det centrala verktyget i operationen ska enligt uppgift ha utvecklats med hjälp av ett AI-drivet intrångstestningsprogram – ett tydligt tecken på att AI nu även används som vapen av de som vill oss illa.
Detta är den obehagliga dubbelhet som den australiska storbanken National Australia Bank (NAB) tycks ha förstått bättre än de flesta. Enligt Finextra rullar NAB nu ut ett samtalsbaserat AI-analysverktyg för sina medarbetare – och bygger samtidigt upp ett samlat operativt centrum för att hantera AI-driven brottslighet. Teknik, cybersäkerhet, bedrägeribekämpning och betalningar samlas under ett tak. Det är ett tvåspårigt tänkande som borde inspirera svenska finansaktörer och företagsledare brett.
OpenAI erkänner: vi hittar fler hål än vi hinner laga
På systemnivå är utmaningen ännu mer grundläggande. SecurityWeek rapporterar att OpenAI utökat sitt cybersäkerhetsinitiativ Daybreak med nya verktyg och partnerskap – men kärnan i problemet är slående: AI-modeller har dramatiskt ökat tempot i sårbarhetssökning till den grad att säkerhetsteam nu drunknar i fynd som aldrig hinner åtgärdas. Det är inte brist på insikt om bristerna – det är brist på kapacitet att rätta dem i tillräcklig takt.
OpenAI:s uppdaterade verktyg Codex Security har sedan mars behandlat över 30 miljoner kodändringar och bidragit till att över 70 000 rättningar bekräftats av mänskliga granskare. Imponerande siffror – men de illustrerar också hur enormt problemets skala är.
Vad bör svenska företag göra nu?
Det korta svaret: sluta behandla AI-säkerhet som en IT-fråga och börja behandla det som en strategisk ledningsfråga.
Tre konkreta åtgärder att påbörja denna vecka:
- Kartlägg er AI-användning – inte bara de godkända verktygen, utan även vad medarbetarna faktiskt använder. Skugg-AI existerar i era system redan nu.
- Erbjud godkända alternativ – förbud utan alternativ skapar bara mer skugg-AI. Ge medarbetarna säkra vägar framåt.
- Uppdatera era AI-verktyg omgående – Autogen Studio är ett exempel, men principen gäller brett. Föråldrade versioner är öppna dörrar.
AI-transformationen är en av de största affärsmöjligheterna i vår tid. Men möjligheter utan riskhantering är inte möjligheter – de är hasardspel.
Vår analys
Det mönster vi ser den här veckan är inte en slump – det är strukturellt. AI-adoptionen accelererar snabbare än organisationers förmåga att hantera den säkerhetsmässigt, och det gäller på tre nivåer samtidigt: tekniska sårbarheter i verktygen själva, mänskliga genvägar som skapar skugg-AI, och externa hotaktörer som utnyttjar exakt samma teknologiska språng.
Det som ger mig hopp är att lösningarna också mognar. NAB:s tvåspåriga modell – omfamna AI och försvara sig mot dess skuggsida parallellt – pekar på en ny mognadsmodell för organisationer. OpenAIs skift mot att prioritera rättning framför upptäckt visar att branschen börjar förstå var flaskhalsen verkligen sitter.
För svenska företag gäller det att inte vänta på att bilden ska bli tydligare. Den är redan tillräckligt tydlig. De som bygger säkerhetsstrukturer kring sin AI-användning nu kommer att ha ett betydande försprång – både operativt och förtroendemässigt – när regelverken skärps och incidenterna ökar i synlighet.