Kommersiell AI användes som beslutsstöd under USA:s angrepp mot Iran — med över 2 000 vapen avfyrade
Grok användes som beslutsstöd när USA avfyrade över 2 000 vapen mot Iran.
När AI-assistenten blir en del av vapenkedjan
Det har länge funnits en teoretisk debatt om vart AI-utvecklingen leder inom försvaret. Den debatten fick förra veckan ett mycket konkret svar.
Enligt MIT Technology Review uppger Pentagons AI-chef att Grok — det samtalsbaserade AI-system som utvecklas av Elon Musks bolag xAI — användes som beslutsstöd vid avfyrandet av över 2 000 vapen i samband med militära angrepp mot Iran. Det är inte ett framtidsscenario eller ett laboratorieexperiment. Det hände, i skarp verklighet.
För mig som systemutvecklare är det här ett ögonblick som kräver att man stannar upp ordentligt.
Vad innebär "beslutsstöd" i praktiken?
Begreppet beslutsstöd kan låta harmlöst — vi använder det inom allt från sjukvård till logistik. Men i ett militärt sammanhang är kontexten en helt annan. Frågan är vad AI-systemet faktiskt bidrog med: Identifierade det mål? Beräknade det anfallstidpunkter? Rangordnade det vapenmål utifrån förväntad effekt?
Det är avgörande skillnad på ett system som sammanfattar underrättelserapporter och ett system som är direkt kopplat till avfyrningsprocessen. Och just nu vet vi inte exakt var på den skalan Grok befann sig.
Det som gör nyheten extra anmärkningsvärd är att Grok är en kommersiell, allmänt tillgänglig AI-modell — inte ett specialutvecklat försvarssystem med år av säkerhetsgranskning bakom sig. Tanken att en modell tränad på internet-data, med de egenheter och blinda fläckar det innebär, nu används i aktiva stridsoperationer är något som branschen behöver ta på djupaste allvar.
Prejudikatet som redan är satt
Om det finns en sak jag lärt mig av att följa teknikutvecklingen är det att den första gången något görs sätter normen. Stater och militärer världen över tittar nu på det här och drar sina slutsatser. Kina, Ryssland, men också NATO-länder och mindre aktörer — alla ser nu att tröskeln för att integrera kommersiella AI-system i militära operationer har passerats.
Detta sker mot bakgrund av att det internationella samfundet ännu inte lyckats enas om bindande regler för autonoma vapensystem. FN har haft diskussioner om så kallade LAWS — lethal autonomous weapon systems — i flera år, utan att nå ett konkret avtal. Det är precis det tomrum som nu fylls av enskilda staters egna tolkningar.
Möjligheterna är verkliga — men kräver struktur
Jag vill vara tydlig: jag tror genuint att AI kan bidra positivt även inom försvars- och säkerhetsdomänen. Bättre analys av underrättelsedata, snabbare identifiering av riskmönster, minskat mänskligt misstag i tidskritiska situationer — det finns legitima användningsområden.
Men just det ordet — legitima — är nyckeln. För att AI-stöd i militära beslut ska vara legitimt krävs transparens om hur systemen är byggda, oberoende granskning av hur de fungerar under verkliga förhållanden, och framför allt tydlig mänsklig ansvarsskyldighet i varje steg av kedjan.
När ett kommersiellt AI-system rullas in i en aktiv militär operation utan att vi — allmänheten, lagstiftarna, det internationella samfundet — ens hunnit diskutera ramverket, är det inte innovation. Det är ett prejudikat som sätts utan demokratisk förankring.
Vad händer nu?
Trycket på lagstiftare och internationella organ ökar nu dramatiskt. EU:s AI-förordning berör inte militära tillämpningar, vilket alltid har varit en medveten lucka. Den luckan ser just nu mycket större ut än tidigare.
För AI-branschen i stort innebär det här också ett ansvar. De som bygger stora språkmodeller — oavsett om de heter Grok, GPT eller något annat — måste ha tydliga policyer för militär användning. Och de måste faktiskt följa dem.
Vår analys
Det som hände är tekniskt sett inte förvånande — militären har alltid adopterat ny teknik snabbt. Det som är nytt är arten av systemet: en samtalsbaserad AI-modell, tränad på öppen data, utan den traditionella försvarsspecifika certifieringsprocessen.
Jag ser två parallella spår som nu accelererar. Det ena är kapprustningen: fler stater kommer att integrera kommersiella AI-system i militära processer, eftersom det är snabbt, billigt och ger operativa fördelar. Det andra spåret är den regulatoriska eftersläpningen, som riskerar att bli farlig om den inte åtgärdas skyndsamt.
Möjligheten — och det finns en sådan — är att just den här händelsen blir den konkreta katalysator som äntligen sätter fart på internationella förhandlingar om bindande regler. Ibland behövs ett verkligt exempel för att abstrakta diskussioner ska bli handlingskraft. Det hoppas jag att den här blir.