Aggressivare formuleringar – nästan tredubblad eskalation: språkmodeller väljer upptrappning när scenarierna hårdnar
Språkmodeller trappade upp aggressionen kraftigt när förhandlingsscenarierna hårdnade.
När AI tar plats vid förhandlingsbordet
Tänk dig en krigssimuleringsövning där deltagarna inte är erfarna diplomater utan språkmodeller. Det är i korthet vad ett forskarteam nyligen genomfört – och resultaten, publicerade på arXiv, ger en tankeväckande bild av hur dagens stora språkmodeller beter sig under geopolitiskt tryck.
I studien fick åtta ledande modeller delta i drygt 3 600 simulerade spel kring Grönlands suveränitet. Modellerna tilldelades roller som USA, Danmark, Grönland, Nato, Ryssland och Kanada – en uppsättning aktörer som speglar den verkliga geopolitiska dynamiken kring den strategiskt viktiga ön. Valet av Grönland som scenario är knappast slumpmässigt; frågan om öns framtida status har aktualiserats på nytt i det internationella samtalet och erbjuder ett realistiskt men ändå avgränsat stresstest.
Tonläge styr beteende
Det mest slående fyndet handlar inte om vilken modell som presterade bäst – utan om hur formuleringar i sig styr utfallet. När scenarierna presenterades med ett tvingande och aggressivt tonläge ökade andelen eskalerande handlingar från knappt 11 procent till nästan 29 procent. Det är en nästan trefaldig ökning, driven enbart av hur frågan ställdes.
Som systemutvecklare är det här ett mönster jag känner igen väl. Vi vet sedan länge att språkmodeller är känsliga för hur instruktioner formuleras – men att samma känslighet uppenbarar sig i geopolitiska rollspel, med potentiellt katastrofala konsekvenser om det vore på riktigt, är en viktig påminnelse om att partiskhet och styrbarhet inte är abstrakta akademiska problem.
Lika intressant är den positiva vändningen: formuleringar som betonade folkrätt och självbestämmande dämpade eskalationsbenägenheten tillbaka mot ursprungsnivån. Det tyder på att det finns konkreta sätt att styra modellers geopolitiska beteende i konstruktiv riktning – inte genom att låsa dem, utan genom att ge dem rätt referensramar.
Systematiska skillnader mellan modeller
Studien lyfter också fram något som lär väcka diskussion: det finns systematiska skillnader i hur modeller med kinesiskt respektive västligt ursprung agerade när de spelade USA:s roll. Forskarna specificerar inte exakt vilka modeller som avses i de sammanfattningar som cirkulerar, men observationen i sig är viktig. Den antyder att träningsdata, värderingar inbakade i träningsprocessen och kulturella referensramar faktiskt påverkar hur en modell resonerar i geopolitiska sammanhang.
Detta är inte förvånande för den som följt debatten om grundmodellers världsbild – men det är en sak att diskutera partiskhet i samband med jobbannonser eller bildbeskrivningar, och en helt annan att se den materialiseras i simulerade förhandlingar om suveränitet och militär närvaro.
Fredliga lösningar – sällsynta undantag
En siffra i studien stannar kvar: enbart 1,9 procent av simuleringarna resulterade i en fredlig lösning. Oavsett hur man tolkar det exakta siffervärdet – simuleringar är förenklade modeller av verkligheten – signalerar det att dagens språkmodeller inte är konstruerade för att navigera komplexiteten i verklig diplomati. De är tränade på text, inte på de institutionella, historiska och mänskliga faktorer som faktiskt avgör hur konflikter löses.
Det betyder inte att AI saknar plats i säkerhetspolitiska sammanhang. Analysstöd, scenarioplanering och informationsbearbetning är områden där tekniken kan tillföra genuint värde. Men att låta en språkmodell fatta eller föreslå beslut i en skarp geopolitisk kris – utan djup mänsklig kontroll och förståelse för modellens begränsningar – vore att missförstå vad tekniken faktiskt är.
Vad forskningen egentligen visar
Den här typen av storskaliga beteendestudier är precis vad fältet behöver mer av. Inte för att skrämma folk från att använda AI, utan för att bygga en realistisk bild av var gränserna går. Grönlandsstudie är ett metodologiskt intressant bidrag – och en välkommen påminnelse om att hur vi ber modeller tänka är minst lika viktigt som vilken modell vi väljer.
Vår analys
Den här studien bidrar med något viktigt: empiriska data i en debatt som alltför ofta drivs av antingen överdrivet höga förväntningar eller diffus oro. Att formuleringar ensamma kan tredubbla eskalationsbenägenheten är ett konkret, mätbart resultat – och ett som borde informera alla som designar system där språkmodeller används i känsliga sammanhang.
Jag ser två utvecklingslinjer härifrån. Den ena är teknisk: att bygga robustare riktlinjer och träningsmetoder som gör modeller mindre volatila när de möter aggressivt formulerade indata. Den andra är organisatorisk: att etablera tydliga ramverk för när och hur AI-stöd får användas i beslutsprocesser med höga insatser.
Det finns också ett bredare prejudikat här. Ju mer AI integreras i analysstöd för försvar och diplomati – något som redan sker i flera länder – desto viktigare blir den här typen av oberoende granskning. Transparens kring modellers beteende i extrema scenarier är inte en akademisk lyx, det är en förutsättning för ansvarsfull användning.