Cyberbrottslingar använder AI för nätfiske och djupfalskvideor – USA anklagar Kina för systematisk teknikstöld

AI revolutionerar cyberbrottsligheten

När ChatGPT lanserades i slutet av 2022 tog det inte lång tid innan cyberbrottslingar upptäckte potentialen. Det som började med användning av stora språkmodeller för att skapa övertygande nätfiske-mejl har utvecklats till något mycket mer omfattande och oroväckande.

Enligt MIT Technology Review använder brottslingar nu AI för allt från kraftfulla nätfiskekampanjer och hyperrealistiska djupfalskvideor till automatiserade sårbarhetsanalyser. Tekniken har fundamentalt förändrat spelplanen – attackerna blir snabbare, billigare och enklare att genomföra.

Som systemutvecklare ser jag detta som en naturlig men problematisk utveckling. När vi demokratiserar kraftfulla verktyg blir de tillgängliga för alla – även de med ont uppsåt. Det som tidigare krävde specialistkompetens och betydande resurser kan nu automatiseras och skalas upp dramatiskt.

Teknikstöld som strategisk vapnen

Medan cyberbrottslingar utnyttjar befintliga AI-verktyg pågår en parallell konflikt på statlig nivå. USA har enligt Computer Sweden riktat skarpa anklagelser mot Kina för systematisk stöld av amerikansk AI-teknik.

Anklagelserna fokuserar på en teknik som kallas destillation – en metod där mindre AI-modeller tränas med hjälp av utdata från större, mer avancerade system. Michael Kratsios från Vita husets vetenskaps- och teknikpolitiska kontor hävdar att kinesiska aktörer använder tiotusentals falska användarkonton och avancerade tekniker för att kringgå säkerhetssystem.

Detta är inte vanlig industrispionage. Destillationsteknik möjliggör att konkurrenskraftiga AI-lösningar kan utvecklas snabbt och till bråkdelar av kostnaden för att bygga egna system från grunden. Det handlar om att kopiera intelligensen snarare än bara koden.

Eskalering på flera fronter

USA överväger nu omfattande motåtgärder: ekonomiska sanktioner, skärpta exportkontroller och svartlistning av företag. Kina förnekar bestämt alla anklagelser genom sin ambassad i USA, där talesperson Liu Pengyu kallar beskyldningarna för förtal.

Från ett tekniskt perspektiv illustrerar denna konflikt hur AI-utveckling har blivit en strategisk fråga för nationell säkerhet. När träning av toppmoderna AI-system kräver enorma resurser och specialiserad kunskap blir möjligheten att "destillera" denna kunskap extremt värdefull.

Nya försvarsstrategi krävs

Båda utvecklingarna – den ökade AI-drivna cyberbrottsligheten och den statliga teknikstölden – kräver fundamentalt nya försvarsstrategi. Organisationer måste inte bara skydda sig mot traditionella cyberattacker utan också mot AI-förstärkta hot som kan anpassa sig i realtid.

Samtidigt måste företag som utvecklar AI-teknik tänka nytt kring hur de skyddar sina modeller. Det räcker inte längre att säkra koden – själva modellbeteendet kan kopieras genom sofistikerade frågeteknik.

Paradoxen är att samma öppenhet som driver AI-innovation framåt också möjliggör dessa angrepp. Vi står inför utmaningen att balansera tillgänglighet med säkerhet utan att kväva utvecklingen.