Allvarliga säkerhetsbrister upptäckta i AI-verktyg från Google och Anthropic
Kritiska brister i Google och Anthropics AI-verktyg öppnar för företagsspionage.
När AI blir både lösning och problem
AI-säkerhet visade nyligen både sin ljusa och mörka sida på ett slående sätt. Anthropics Mythos-modell hjälpte Mozilla att hitta över 400 säkerhetsbrister i Firefox, enligt TechCrunch – en dramatisk ökning från tidigare 31 årliga buggfixar. Bland fynden fanns programmeringsfel som legat dolda i över ett decennium.
Men samtidigt som AI visar sin kraft inom cybersäkerhet, avslöjer nya undersökningar allvarliga brister i själva AI-verktygen. SecurityWeek rapporterar om kritiska sårbarheter i både Googles Gemini CLI och Anthropics Claude Code som kunde ha lett till leverantörskedjeattacker och stöld av känsliga inloggningsuppgifter.
Dolda hot i vardagliga verktyg
Det mest oroande är hur enkla dessa attacker är att genomföra. I Gemini CLI kunde angripare skapa skadliga instruktioner i vanliga GitHub-ärenden för att ta kontroll över AI-agenter. Claude Code visade sig vara sårbart för så kallade "man-in-the-middle"-attacker där OAuth-token – digitala huvudnycklar till användarens verktyg – kunde stjälas genom modifiering av en enda konfigurationsfil.
"Det räcker med ett tryck på Enter för att ge angriparen fullständig tillgång", förklarar säkerhetsforskaren Alex Polyakov från Adversa.AI om Claude Codes säkerhetsdialoger.
Osynliga attacker mot AI-syn
Ciscos forskare har visat hur angripare kan lura AI-modeller med omärkliga bildförändringar som innehåller dolda kommandon. Tekniken, som kallas "adversarial attacks", gör det möjligt att bädda in skadliga instruktioner direkt i vanliga bilder som webbsidors banners eller dokumentförhandsvisningar.
Det som gör attacken särskilt farlig är att AI-systemet kan läsa och följa de dolda kommandona, medan människor och säkerhetsfilter bara ser visuellt brus. Resultaten varierade mellan olika AI-modeller, där Claude visade störst sårbarhet med attackframgång som ökade från 0 till 28 procent.
Massiv datablottläggning
Kanske mest skrämmande är den omfattande undersökning som Wired rapporterar om, där över 5 000 AI-genererade webbappar saknar grundläggande säkerhet. Säkerhetsforskaren Dor Zvi fann att cirka 40 procent av apparna exponerar känslig information – från medicinsk data till företagsstrategier – för vem som helst som hittar deras webbadress.
Att upptäcka de sårbara apparna var förvånansvärt enkelt genom vanliga Google-sökningar, eftersom AI-företagen låter användare vara värd för sina appar på företagens egna domäner.
Leverantörskedjor i fara
Säkerhetsforskare varnar särskilt för att AI-kodningsverktyg skapar nya sårbarheter i mjukvaruleveranskedjor. När utvecklare använder AI-verktyg som automatiskt söker efter kodbibliotek på GitHub, kan angripare placera lockande men skadlig kod i publika arkiv och vänta på att den ska användas.
Problemet förvärras när dessa verktyg används i kontinuerliga utvecklingsprocesser där en komprometterad utvecklare kan sprida skadlig kod till tusentals slutanvändare.
Vår analys
Dessa upptäckter visar att vi befinner oss i en kritisk fas av AI-utvecklingen där säkerheten inte hållit jämna steg med innovationstakten. Som systemutvecklare ser jag detta som naturliga växtvärk snarare än grundläggande designfel – men de måste tas på allvar.
Det mest oroande är inte de tekniska bristerna i sig, utan företagens motvilja att ta ansvar. När Anthropic avfärdar säkerhetsproblem som "utanför deras ansvarsområde" signalerar det en farlig attityd inom branschen.
Framåt behöver vi bättre säkerhetsstandarder från grunden, inte efterkonstruerade lösningar. Paradoxen att AI både löser och skapar säkerhetsproblem visar att tekniken mognar – men vi måste säkerställa att säkerheten utvecklas lika snabbt som funktionaliteten.