AI-vapnen är här – system kan slå 5000 mål om dagen

Från labbet till slagfältet på rekordtid

När Google drog sig ur Project Maven 2018 efter anställdas protester, var det lätt att tro att utvecklingen av AI-vapen skulle sakta ner. Men verkligheten blev en annan. Enligt The Verge kan det amerikanska militärens Maven-system nu identifiera och angripa upp till 5 000 mål per dag – en process som tidigare tog timmar slutförs nu på sekunder.

Det som startade som ett experiment med datorseende på drönarmaterial har vuxit till ett omfattande vapensystem som används av hela den amerikanska försvarsmakten och nyligen köpts av Nato. Palantir byggde systemet med teknologi från Microsoft, Amazon och Anthropic, och kombinerar satellitbilder, radar, sociala medier och dussintals andra datakällor.

När leken blir allvar

Men AI-säkerhetsriskerna begränsar sig inte till militära tillämpningar. Ars Technica rapporterar om en sydkoreansk man som nu riskerar fem års fängelse efter att ha skapat en AI-genererad bild av en rymmd varg "för skojs skull". Bilden störde polisens sökinsatser och fick myndigheter att skicka ut varningsmeddelanden till allmänheten.

Fallet illustrerar hur enkelt det blivit att skapa övertygande falsk information – och vilka verkliga konsekvenser det kan få. När det gäller en hotad art som den sydkoreanska vargen Neukgu kan varje förlorad timme vara avgörande.

Nya hot kräver nya försvar

Vid årets RSA-konferens dominerade diskussionerna om så kallad "agentisk AI" – system som agerar självständigt utan mänsklig inblandning. SecurityWeek rapporterar att Cloud Security Alliance förutspår en kraftig ökning av samtidiga AI-drivna cyberattacker.

Problemet är att samma teknik som hjälper försvarare också kan användas av angripare. Tidiga AI-agenter undersöker redan miljöer, utnyttjar felkonfigurationer och efterliknar legitima användare. Experternas lösning? Behandla AI som en identitet snarare än ett verktyg – vilket ger bättre synlighet och kontroll.

Finansvärldens uppvaknande

Finansbranschen, som ofta är tidig med att implementera ny teknik, börjar nu inse riskerna. Finextra varnar för att AI-system kan användas för omfattande bedrägerier och manipulation av finansiella marknader. Tekniken gör det möjligt att skapa falska dokument och kommunikation som är nästan omöjliga att skilja från äkta material.

Regleringsorgan arbetar intensivt med nya ramverk, men utvecklingen går så snabbt att lagstiftningen riskerar att hamna efter. Som en expert uttryckte det: "Tiden för naiv optimism kring AI-teknik är över – nu krävs genomtänkta strategier och försiktighet."

Säkerhet som designprincip

Vad som förenar alla dessa exempel är att AI-säkerhet inte längre kan behandlas som en efterkonstruktion. Maven-systemets snabba utveckling från Google-experiment till Nato-vapensystem visar hur fort AI-teknik kan skalas upp. Vargbluffen demonstrerar hur lätt det är att skapa förvirring med AI-genererat innehåll. Cyberattackerna belyser behovet av helt nya försvarstekniker.

Som systemutvecklare ser jag detta som en naturlig mognadsfas för AI-tekniken. Vi har lärt oss att bygga kraftfulla system – nu måste vi lära oss att bygga dem säkert från grunden.