Vem sätter gränserna när algoritmen får bestämma vem som ska dö?
Autonoma vapen dödar utan mänskligt beslut – vem bär ansvaret?
Staten, vapnet och algoritmen
Det var hösten 2017 i Genève. Fredsforskaren Branka Marijan satt i ett FN-möte om konventionella vapen och bevittnade en kortfilm om en fiktiv AI-styrd drönare som kunde döda utan mänsklig inblandning. Det skrämmande var inte filmen – det var insikten om att Pentagons eget projekt Maven redan var i drift och använde AI för att analysera övervakningsfilm i realtid. Fiktion och verklighet hade börjat överlappa.
Sedan dess har takten inte saktat av – den har ökat dramatiskt.
Enligt The Verge har AI under de senaste decennierna gradvis omformat hur krig förs: på 2000-talet kom förmågan att bearbeta enorma datamängder, mot slutet av 2010-talet tillkom avancerad ansiktsigenkänning och bildanalys. Nu befinner vi oss vid nästa tröskel. Fullt autonoma dödliga vapensystem är ännu inte i aktiv tjänst – men spänningarna om var den gränsen ska gå är påtagliga. I januari 2026 krävde försvarsminister Pete Hegseth att Försvarsdepartementet skulle omförhandla sina AI-avtal, vilket satte AI-företaget Anthropic i centrum för en principiellt laddad maktkamp. Anthropic har hållit fast vid två kärnförbud: inget stöd för inhemsk massövervakning, och inga vapensystem som kan identifiera, följa och döda mål helt utan mänsklig kontroll.
Det är mod som kostar affärer. Men det sätter också fingret på något centralt: vem sätter egentligen gränserna för AI i krig när stater trycker på och företag tvekar?
Kritiker blir ett säkerhetshot
Parallellt med slagfältets AI-kapprustning utspelar sig något minst lika alarmerande på hemmafronten. Wired har granskat mer än tusen sidor opublicerade rapporter från Departementet för inre säkerhet, FBI och regionala underrättelseenheter – och bilden är dyster.
Amerikanska federala myndigheter har börjat behandla motstånd mot artificiell intelligens som ett potentiellt nationellt säkerhetshot. Begreppet "teknikfientlig våldsbejakande extremism" har dykt upp i interna dokument – ett begrepp som inte förekommer i några tidigare offentliga rapporter från DHS eller FBI. I New Yorks underrättelseenhet för terrorismbekämpning varnar analytiker för att spridningen av AI under de kommande fem åren kan utlösa storskaliga protester som övergår i civil oro.
President Trumps nationella säkerhetsdirektiv instruerar Justitiedepartementet att rikta in sig på personer med "amerikafientliga", "kristendomsfientliga" och "kapitalismfientliga" åsikter – vilket i praktiken ger myndigheterna mandat att kriminalisera politisk kritik mot den teknologivänliga Vita husets linje. Att ogillar hur AI-omställningen sköts kan alltså, i det här ramverket, betraktas som en säkerhetsrisk.
Det är inte en slump. Det är ett mönster.
Den dolda svagheten i systemet
Och samtidigt som dessa AI-system byggs ut för att övervaka, styra och besluta – visar ny säkerhetsforskning att de är fundamentalt sårbara. Computer Sweden rapporterar om en teknik döpt till AudioHijack, där dolda ljudsignaler inbäddade i vanligt material – ett musikklipp, ett röstsamtal – kan ta kontroll över AI-drivna röstsystem med en träffsäkerhet på mellan 79 och 96 procent i genomförda tester. Angriparen behöver inte ens ha direkt tillgång till systemet. Det räcker att manipulera det ljud som AI-modellen bearbetar.
Konsekvenserna kan vara allvarliga: system kan förmås att hämta filer, skicka känslig data eller utföra kommandon – utan att användaren märker något. I en värld där AI-röststyrning integreras i allt från smarta hem till militär infrastruktur är det inte en akademisk sårbarhet. Det är en strategisk.
Möjligheternas baksida
Jag är genuint entusiastisk inför vad AI kan göra för mänskligheten – effektivitet, hälsa, välstånd, innovation. Men den entusiasmen måste vara ögonöppen. Tre parallella rörelser pågår just nu: AI integreras djupare i militära beslutsprocesser, politisk kritik mot AI börjar kriminaliseras, och de AI-system vi bygger ut visar sig ha grundläggande tekniska svagheter som illvilliga aktörer kan utnyttja.
Det är inte en dystopisk framtidsbild. Det är veckans nyheter.
Vår analys
Det som slår mig hårdast när jag väver samman de här rapporterna är inte någon enskild nyhet – det är takten och riktningen sammantaget. Vi befinner oss i ett läge där AI-verktyg rullas ut i militära och statliga sammanhang snabbare än de etiska ramverken och de tekniska säkerhetslösningarna hinner ta form.
Anthropics kamp om kontraktsskrivningen med Pentagon är faktiskt ett hoppingivande tecken – det visar att enskilda aktörer kan hålla linjen. Men det är inte hållbart att förlita sig på enskilda företags etiska ryggrad när stater med stora resurser och tydliga strategiska intressen trycker på.
Den mest underskattade risken är sammankopplingen: AI-system som är sårbara för dolda angrepp, integrerade i beslutssystem med låg eller obefintlig mänsklig kontroll, i en politisk miljö där kritik mot AI-utbyggnaden riskerar att stämplas som extremism. Det är en kombination som kräver ett europeiskt svar – och ett snabbt sådant. Sverige och Norden har allt att vinna på att vara drivande i den debatten.