AI-verktyg läcker känslig information – attackerna ökar snabbare än försvaret
Googles AI-verktyg laddade skadlig kod utan säkerhetskontroll av misstag.
När säkerheten halkar efter utvecklingen
Det räcker inte att bygga smarta system – de måste också vara säkra. Men en serie nyliga säkerhetsluckor visar att både AI-verktyg och intelligenta system fortfarande har allvarliga brister i sina grundläggande säkerhetsmekanismer.
Googles AI-verktyg öppnade dörren för angripare
Säkerhetsföretaget Novee Security upptäckte en kritisk sårbarhet i Gemini CLI, Googles kommandoradsverktyg för AI-utveckling. Problemet låg i verktygets alltför tillitsfulla design – det laddade automatiskt konfigurationsfiler från arbetsmappen utan någon säkerhetsgranskning eller användarbekräftelse.
Resultatet var att angripare kunde placera skadliga konfigurationsfiler som tvingade AI-agenten att köra godtycklig kod innan säkerhetsskyddet ens hann aktiveras. "Gemini CLI laddade automatiskt alla agentinställningar som hittades i arbetsmappen utan granskning, säkerhetsisolering eller mänskligt godkännande", förklarar forskarna enligt SecurityWeek.
Detta gav obehöriga åtkomst till känslig information som inloggningsuppgifter, hemligheter och källkod – exakt de resurser som utvecklare arbetar med dagligen.
Förrådskedjeattacker träffar utvecklarverktyg
Parallellt genomförde hackningsgruppen TeamPCP en sofistikerad attack mot SAP:s utvecklarverktyg. De infiltrerade fyra populära NPM-paket som tillsammans laddas ner över 500 000 gånger per vecka av utvecklare som bygger på SAP:s molnplattform.
Attacken, kallad "Mini Shai-Hulud", pågick i 2-4 timmar innan den upptäcktes. Den skadliga koden fungerade som en startmekanism som automatiskt hämtade ytterligare skadlig programvara från GitHub och stjäl lokala inloggningsuppgifter samt molnhemligheter från AWS, Azure och Google Cloud Platform, rapporterar SecurityWeek.
Smarta byggnader blir sårbara mål
Problemet begränsar sig inte till utvecklarverktyg. Säkerhetsforskare på Claroty upptäckte kritiska sårbarheter i EnOceans SmartServer-plattform, som används för byggnadsautomation i smarta byggnader, fabriker och datacenter.
De två sårbarheterna (CVE-2026-22885 och CVE-2026-20761) kunde ge angripare full fjärrkontroll över byggnadssystem genom bristfällig validering av datapaket. "Genom att utnyttja bristfällig validering kan en angripare kontrollera parametrar som skickas till enhetens inbyggda systemanrop och uppnå fullständig övertagning", förklarar Claroty enligt SecurityWeek.
Mönstret som förenar attackerna
Trots att dessa system verkar helt olika – AI-verktyg, utvecklarpaket och byggnadsautomation – delar de gemensamma sårbarheter. Alla har automatiserade processer som litar för mycket på externa indata utan tillräcklig validering.
I Geminis fall var det automatisk inläsning av konfigurationsfiler. För SAP-paketen handlade det om förtroendefull installation av kod från paketregister. SmartServer-plattformen validerade inte inkommande datapaket tillräckligt.
Snabba åtgärder men långsiktiga utmaningar
Företagen har reagerat snabbt när problemen upptäcktes. Google åtgärdade Gemini CLI-sårbarheten, SAP rensade sina paketregister och EnOcean släppte säkerhetsuppdateringar. Men det faktum att sådana grundläggande säkerhetsbrister fortfarande förekommer i stora företags produkter visar att säkerheten inte prioriteras tillräckligt högt i utvecklingsprocessen.
Vår analys
Dessa säkerhetsluckor avslöjar ett strukturellt problem i hur vi bygger AI-system och intelligenta lösningar. Utvecklingstakten är så hög att säkerhetsaspekterna hamnar i skymundan, trots att företagen investerar miljoner i säkerhet.
Särskilt oroande är att sårbarheterna ofta ligger i grundläggande designbeslut – som automatiskt förtroende för externa källor eller bristfällig validering. Det är inte buggar som kan lappas, utan arkitektoniska val som kräver omtänk.
Framöver kommer denna problematik att förvärras när AI-agenter blir mer autonoma och får större systemåtkomst. Vi behöver bygga säkerhet från grunden, inte lägga till den i efterhand. Det kräver både nya utvecklingsmetoder och tydligare ansvarsskyldighet från leverantörerna.
Positivt är att säkerhetsgemenskapen blir allt skickligare på att upptäcka dessa problem innan de utnyttjas i stor skala. Men racet mellan utveckling och säkerhet kommer att intensifieras.