De verktyg du litar på varje dag kan ge angripare nyckeln till hela ditt företag

AI-verktygen vi litar på kan bli vår svagaste länk

Det är lätt att fascineras av vad AI kan göra — automatisera kod, analysera marknader, förutsäga hot. Men den här veckan fick vi en påminnelse om att varje nytt verktyg också är en ny angreppsyta. Och ibland är det de mest använda verktygen som är de farligaste.

Säkerhetsforskarna på Wiz offentliggjorde en allvarlig sårbarhet i tillägget Amazon Q Developer för Visual Studio Code — ett verktyg som dagligen används av tusentals mjukvaruutvecklare världen över. Bristen var elegant i sin enkelhet och förödande i sin potential: tillägget agerade automatiskt på konfigurationsfiler inbäddade i ett kodarkiv, helt utan att be användaren om tillåtelse. Det innebar att en utvecklare som öppnade ett till synes harmlöst kodprojekt omedvetet kunde lämna ifrån sig sina molnuppgifter och API-nycklar — till angripare som aldrig ens behövde synas.

"Kombinationen av automatisk körning, skapande av skalprocesser och miljöarv skapade en högrisksårbarhet i ett brett använt utvecklarverktyg", skriver Wiz i sin rapport. Med andra ord: ett enda förgiftat kodarkiv, delat på exempelvis GitHub, kunde äventyra inte bara en enskild dators, utan en hel organisations molninfrastruktur. Det är inte en teoretisk risk — det är en angreppsvektor som är enkel att utnyttja i stor skala.

Hackarna hackades — men skadan är redan skedd

Samtidigt har intrånget mot marknadsunderrättelsetjänsten Klue tagit en närmast filmisk vändning. De angripare som under mitten av juni använde stulna inloggningsuppgifter för att komma åt kundernas åtkomsttoken och ladda ner stora datamängder — de har nu själva blivit hackade. Hotaktören som kallar sig Icarus tog på sig ansvaret och publicerade uppgifter på Tor-nätverket med krav på lösensumma. Klue bekräftade intrånget och uppger att förhandlingar påbörjats, medan integrationerna med Salesforce och Gong stängts av.

Ett tjugotal kunder — däribland Blackbaud, Deel och Tines — har bekräftats drabbade. Men med hundratals kunder i Klues portfölj kan skadeverkningarna visa sig vara betydligt större. Det här är ett klassiskt exempel på hur en svag länk i leverantörskedjan kan ge ringar på vattnet långt utanför det ursprungliga intrånget.

Statlig övervakning med gamla verktyg

Och om de kommersiella sårbarheterna inte räckte kom en tredje påminnelse om hotlandskapet: Citizen Lab bekräftar att ryska myndigheter använde Cellebrites programvara för att bryta sig in i oppositionsaktivisten Andrej Pivovarovs iPhone — trots att övervakningsföretaget avslutat sina ryska avtal redan 2021. Äldre installationer användes för att utvinna data från Telegram och WhatsApp, och den insamlade informationen misstänks ha använts av den statsstödda gruppen ColdRiver för att rikta nätfiskeattacker mot aktivistens närmaste krets.

Det är en skarp påminnelse om att digitala verktyg inte försvinner bara för att avtalen gör det — och att statliga aktörer är väl förberedda på att utnyttja varje fördröjning i säkerhetsuppdateringar.

Kapitalet söker sig till lösningen

Mitt i allt detta finns det ändå en signal om framtiden som är svår att ignorera: det Bostonbaserade cybersäkerhetsföretaget Nebulock stängde nyligen en finansieringsrunda på 25 miljoner dollar — drygt 200 miljoner kronor — för att bygga ut sin AI-drivna plattform för hotjakt. Plattformens kärna är att omvandla beteendedata från hela organisationen till ett samlat referenssystem som kan identifiera mönster som annars går under radarn.

"Angriparna har blivit mer självgående i snabbare takt än vad försvararna har lyckats bli förebyggande", säger grundare och vd Damien Lewke. Det är en träffande diagnos av nuläget — och ett argument för att svaret på AI-drivna hot måste vara AI-drivet försvar.

Veckan vi haft är inte ett argument för att sakta ner AI-omställningen. Det är ett argument för att göra den rätt.