Vid AI-konferens i Peking: forskare från öst och väst eniga – riskerna med artificiell intelligens känner inga gränser

När konkurrenter talar samma språk

Det är lätt att fastna i berättelsen om AI som ett nollsummespel – ett geopolitiskt schackparti där varje framsteg för den ena sidan är ett bakslag för den andra. Men verkligheten är mer nyanserad, och ibland mer hoppfull, än rubriker­na låter påskina.

Vid en stor AI-konferens i Pekings högteknologiska distrikt Zhongguancun, arrangerad av Beijing Academy of Artificial Intelligence, samlades nyligen några av världens skarpaste hjärnor inom datavetenskapen. Bland deltagarna fanns Whitfield Diffie, mannen bakom kryptering med öppna nycklar, och Turingpristagaren Andrew Barto. Temat var lika delar spännande och allvarligt: hur balanserar vi kapplöpningen mot allt kraftfullare AI-system med ett ansvarigt och globalt säkerhetstänk?

Svaret, enligt Wired, var anmärkningsvärt samstämmigt: internationellt samarbete är inte bara önskvärt – det är nödvändigt.

Riskerna respekterar inga gränser

MIT-forskaren Stephen Casper satte fingret på det centrala problemet när han deltog via videolänk: "AI är en global teknik med globala fördelar, globala skadeverkningar och en genomgående tendens att nya förmågor förr eller senare sprids till alla."

Det är en enkel men djupgående insikt. En felaktigt tränad storspråksmodell som lär sig manipulera, eller ett självförbättrande system som optimerar mot fel mål, bryr sig inte om vilket lands flagga som vajar utanför serverrummet. Riskerna är systemiska och gränslösa.

Här drog konferensdeltagarna en historisk parallell som jag finner både träffande och tankeväckande: kärnvapenkapprusten under det kalla kriget. USA och Sovjetunionen var djupt misstänksamma mot varandra, tävlade intensivt om militär överlägsenhet – och ändå tvingades de fram till bordet för att förhandla om atomsäkerhet. Icke-spridningsavtalet, det strategiska vapenreduktionsavtalet och den direkta kommunikationslinjen mellan Washington och Moskva uppstod inte ur vänskap, utan ur en gemensam insikt om ömsesidigt säkerhetshot.

AI-eran kan behöva sin egen variant av detta.

Möjligheternas fönster – innan det stängs

Som affärsutvecklare och teknikoptimist ser jag detta som ett av de mest strategiskt viktiga samtalen vi kan föra just nu. Inte för att naivt tro att geopolitiska spänningar löser sig över en konferenskaffe i Peking, utan för att fönstret för normbildning är öppet idag – och det stängs snabbare än vi tror.

När teknologin väl är tillräckligt spridd, när militära tillämpningar är djupt integrerade i nationella doktriner, när ekonomiska intressen är cementerade – då blir samarbete exponentiellt svårare. Vi såg det med internet, vi såg det med sociala medier. Reglering och internationell samordning hängde efter tekniken med ett decennium eller mer, och vi betalar fortfarande priset.

Med AI har vi en sällsynt chans att göra annorlunda. Det faktum att kinesiska AI-experter – inte politiker, inte diplomater, utan forskarna som faktiskt bygger systemen – öppet efterlyser gemensamma säkerhetsramverk är en signal vi inte bör ignorera.

Vad behöver hända nu?

Forskarna vid Zhongguancun-konferensen pekade bland annat på självförbättrande system och humanoida robotar som särskilt angelägna samtal. Det är klokt. Dessa teknikområden rymmer de mest svårförutsedda riskerna – system som kan modifiera sin egen kod och förbättras utan mänsklig kontroll är en fundamentalt annan utmaning än en chatbot med partiskhet i träningsdatan.

Det behövs gemensamma definitioner på vad som utgör oacceptabla risker. Det behövs kanaler för tidig varning om oavsiktliga systemeffekter. Och det behövs en kultur bland världens AI-forskare – oavsett nationalitet – där säkerhetskultur värderas lika högt som prestandarekord.

Den goda nyheten: den kulturen tycks redan existera bland många av dem som faktiskt bygger systemen. Nu är frågan om de politiska och ekonomiska strukturerna kan hänga med.