Länder satsar miljarder på militär AI – men ny forskning: tekniken klarar inte uppgiften

Gapet mellan ambition och verklighet

Det finns ett ord som återkommer gång på gång i teknikvärldens samtal om AI: redo. Är vi redo? Är tekniken redo? Är samhället redo? Två nya vetenskapliga studier publicerade på forskningsplattformen arXiv sätter fingret på en obehaglig sanning: nej, vi är inte redo – i alla fall inte när det gäller AI:s roll i militär strategi och biologisk forskning.

Och ändå är vi mitt uppe i det.

Krigsspelet som avslöjar bristerna

Forskare vid flera ledande institutioner har analyserat hur AI-system presterar i öppna strategiska krigsspel – de simuleringsövningar som militär planering och krishantering traditionellt bygger på. Slutsatsen är skarp: nuvarande språkmodeller är inte mogna för den uppgiften.

Studien identifierar fem kritiska feltyper som tillsammans målar upp en alarmerande bild. Beslutstvättning innebär att AI:n osynligt formar vad en aktör strävar efter. Ogenomskinlig bedömning gör det omöjligt att förstå varför ett visst beslut fattades. Rollkollaps uppstår när systemet tappar grepp om sin roll i simuleringen. Därtill riskerar systemet att trappa upp konflikter via simulerade beslut – och saknar det forskarna kallar strategisk fantasi: förmågan att tänka utanför givna ramar.

Dessa brister är inte tekniska detaljer. De är grundläggande svagheter i hur dessa system resonerar – eller snarare misslyckas med att resonera – under komplexa och högriskfyllda förhållanden. Och vanliga riktmärken räcker inte för att fånga upp dem, påpekar forskarna. Krigsspel kan visserligen användas som stresstester för att blottlägga brister, men de utgör inte i sig tillräckligt säkerhetsunderlag för verkliga tillämpningar.

Biologin: ett ännu svårare fält

Parallellt med den militära studien granskar en vetenskaplig översikt hur AI-verktyg breder ut sig inom biologisk forskning – från informationsinsamling och experimentplanering till proteindesign och automatiserade laboratorier. Möjligheterna är genuint spännande. Utmaningarna likaså.

Forskarna konstaterar att AI-systemen framför allt förstärker förmågan att utföra digitala uppgifter, medan fysiskt laboratoriearbete fortfarande kräver mänsklig kompetens. Men det som verkligen ger anledning till eftertanke är detta: de tekniker som används för att göra allmänna AI-modeller säkrare fungerar dåligt när de tillämpas på biologiska specialmodeller.

Med andra ord – de skyddsmekanismer vi byggt upp räcker inte. Risken beror inte enbart på vad AI:n tekniskt kan åstadkomma, utan också på vem som använder den, med vilka avsikter och med tillgång till vilken utrustning. Det är en påminnelse om att säkerhet inte är ett tekniskt problem med en teknisk lösning – det är ett systemiskt problem som kräver ett systemiskt svar.

Forskarna pläderar för ett flerskiktat säkerhetssystem där krav och ansvar skalas upp i takt med systemens förmågor, för att begränsa allvarliga risker utan att hämma legitim forskning.

Världen väntar inte på grönt ljus

Här ligger den verkliga spänningen. Forskningen säger: bromsa, utvärdera, bygg bättre skydd. Verkligheten ser annorlunda ut. USA, Kina, Israel och ett växande antal europeiska länder testar och implementerar AI i försvarssammanhang redan nu – i varierande grad och med varierande transparens.

Det är inte naivt att vara optimistisk om AI:s transformativa kraft. Men det vore naivt att låtsas som att dessa varningssignaler inte existerar. De existerar. Och de är välgrundade.

Det vi ser är ett klassiskt teknikpolitiskt dilemma: tekniken utvecklas snabbare än vår förmåga att förstå dess konsekvenser. Det gäller i konferensrummet, det gäller i laboratoriet – och det gäller på slagfältet.

För oss som arbetar med AI-omställning i affärsvärlden är budskapet tydligt: den organisation som är mest framgångsrik är inte den som rör sig snabbast, utan den som rör sig snabbast med insikt om sina egna begränsningar. Det gäller stater likaväl som företag.