Kina bromsar inte AI-takten – och kravet på jämbördighet förklarar varför globala säkerhetsavtal är så svåra att nå

När Silicon Valley vänder kurs – men Kina inte följer med

Det är inte ofta man ser en av AI-branschens mest inflytelserika röster argumentera för att sakta ner. Men det är precis vad Dario Amodei, grundare och vd för Anthropic, nyligen gjorde i ett välskrivet blogginlägg med titeln We Must Pace the Frontier. Hans tes är enkel men kontroversiell: USA och Kina måste samarbeta för att dämpa takten i den globala AI-utvecklingen, innan vi bygger system vi inte längre förstår eller kontrollerar.

Det är en markant vändning. Länge har just hotet från kinesisk AI-konkurrens använts som det starkaste argumentet för att accelerera – att bromsa skulle vara att kapitulera. Nu argumenterar alltså Amodei för det motsatta: att ett okontrollerat lopp mot toppen riskerar att bli farligt för alla parter.

Problemet? Kina lyssnar inte.

Enligt Wired avfärdar varken kinesiska myndigheter eller landets ledande AI-företag uppmaningen. Och skälet är mer nyanserat än man kanske förväntar sig.

Jämbördighet som förutsättning för dialog

Kevin Xu, grundare av teknikinvesteringsfonden Interconnected Capital och tidigare tjänsteman i Obama-administrationen, sätter fingret på det centrala problemet:

AI-säkerhetsrörelsen i Kina växer och delar många av de farhågor som amerikanska laboratorier hyser. Klyftan handlar om att Anthropics vision förutsätter att Kina först underordnar sig och begränsas, innan någon dialog ens inleds. Kina är bara villigt att samtala som en jämbördig part.

Detta är en diplomatiskt välbekant dynamik – men den får en ny skärpa när det handlar om AI. Amodeis blogginlägg förespråkar nämligen parallellt att Väst ska maximera sitt teknologiska försprång gentemot Kina: skärpta kontroller mot chipsmuggling, begränsningar mot kinesiska företags möjligheter att destillera västerländska AI-modeller, och så vidare. Sedan hävdar han – i vad som beskrivits som ett djärvt logiskt språng – att ett försvagat kinesiskt AI-ekosystem paradoxalt nog skulle skapa bättre förutsättningar för samarbete.

Det är lätt att förstå varför det resonemanget inte flyger i Peking.

Det strukturella problemet med asymmetrisk nedrustning

Som systemutvecklare och tekniknyfiken person är jag genuint fascinerad av den underliggande systemdesignfrågan här: hur bygger man tillit i ett system där båda parter har starka incitament att fuska?

AI-kapprustningen liknar på många sätt ett klassiskt fångarnas dilemma. Båda sidor tjänar på samarbete i teorin, men den enskilda rationella strategin är att fortsätta accelerera – för om motparten gör det och du inte, hamnar du i underläge. Det är precis den situation vi befinner oss i nu.

Detta är inte unikt för AI. Liknande dynamiker har spelats ut inom kärnvapenpolitik, klimatavtal och handelspolitik. Men AI skiljer sig på ett viktigt sätt: utvecklingstakten är extrem och oförutsägbar. Det finns ingen tydlig analog till en kärnvapentest som kan detekteras och verifieras. Hur kontrollerar man att en motpart verkligen bromsar träningen av en stor språkmodell?

Frånvaron av verifieringsmekanismer gör varje vapenstilleståndsavtal till en ren trosfråga – och det är inte en solid grund för geopolitik.

Reglering i vakuum

I mellantidens tomrum jobbar både EU med sin AI-förordning och USA med fragmentariska statliga och federala initiativ. Kina har sina egna regler, bland annat krav på registrering av stora AI-modeller och restriktioner kring generativt innehåll. Men alla dessa ramverk är nationella – de hanterar inte det grundläggande koordinationsproblemet.

Det är som att varje land bygger egna trafikregler utan att komma överens om vilken sida av vägen man ska köra på. Det fungerar innanför landsgränserna, men i mötet sker krascherna.

Amodeis initiativ är välment och tekniskt välgrundat. Men det saknar en trovärdig mekanism för hur man faktiskt når dit han vill. Och utan den mekanismen riskerar det att bli ett moraliskt ställningstagande utan politisk effekt – viktigt att säga, men svårt att bygga vidare på.