Makten över AI sitter hos ett fåtal – och FN slår larm om vad det kan kosta oss

När FN höjer rösten lyssnar världen – eller gör den det?

Det är inte vilken talare som helst som klev upp på podiet i Genève. Volker Türk, FN:s människorättschef, vände sig till rådet för mänskliga rättigheter med ett budskap som få vågat formulera så rakt: artificiell intelligens kan utgöra ett existentiellt hot mot mänskligheten. Enligt Computer Sweden delade Türk den oro som länge surrat under ytan i teknikbranschen – och lyfte den till en helt ny politisk nivå.

Jag vill vara tydlig: jag är genuint övertygad om att AI är en av de mest omvälvande och positiva krafterna i mänsklighetens historia. Men just därför tar jag den här varningen på allvar. De som älskar tekniken mest har också störst ansvar att se dess skuggsidor med öppna ögon.

Makten sitter hos ett fåtal

Ett av Türks skarpaste angrepp handlar inte om algoritmer eller beräkningskraft – det handlar om maktkoncentration. I dag styrs en oproportionerligt stor del av den globala AI-utvecklingen av ett handfull företag och individer. Det är en struktur som skapar sårbarhet, inte styrka.

Tänk på det så här: om ett litet antal aktörer kontrollerar de system som i allt högre grad formar sjukvård, infrastruktur, demokratiska processer och militär kapacitet – vem är det egentligen som sätter spelreglerna? Türk uppmanar de länder som huserar stora AI-företag, liksom de som ingår i teknikens leveranskedjor, att gemensamt fastställa tydliga gränser för vad som aldrig får tillåtas.

Det är en rimlig och nödvändig uppmaning. Men genomförbarheten är en annan sak.

Drönare i Ukraina – teorin möter verkligheten

För att göra riskerna konkreta lyfte Türk fram ett dystert exempel: rapporter om att Ryssland ska ha använt helt självstyrande drönare i Ukraina, vilket uppges ha lett till tre dödsfall i augusti. Det är inte längre en hypotetisk framtidsdiskussion. AI-driven krigföring utan mänsklig kontroll är redan här, och konsekvenserna är dödliga.

Detta är det tydligaste argumentet för varför reglering inte kan vänta. Varje månad av passivitet är en månad då tekniken löper iväg från de juridiska och etiska ramverk som borde styra den.

Möjligheternas sida – och varför det faktiskt gör varningen viktigare

Här vill jag lyfta något som lätt drunknar i det dystra: det är just för att AI har en sådan enorm positiv potential som vi måste ta regleringsfrågan på blodigt allvar. En teknik utan motsvararande ansvarsstruktur är som ett flygplan utan lufttrafikledning – ju kraftfullare, desto farligare.

Vi ser redan hur AI revolutionerar läkemedelsforskning, klimatmodellering, tillgänglighet för personer med funktionsnedsättning och småföretagares möjligheter att konkurrera med jättar. Den resan vill jag se fortsätta – och den förutsätter att vi bygger förtroendet för tekniken genom tydliga, internationellt samordnade spelregler.

Världssamfundet är ännu inte rustat

Det ärliga svaret på rubrikens fråga – har världen verktygen att agera? – är nej, inte ännu. EU:s AI-förordning är ett viktigt steg, men det är ett regionalt svar på en global utmaning. FN:s råd för mänskliga rättigheter kan höja rösten och sätta normer, men saknar verkställande makt.

Det som Türks tal faktiskt åstadkommer är något subtilt men viktigt: det legitimerar AI-säkerhet som en global säkerhetsfråga, i paritet med kärnvapen och klimatförändringar. Det är ett paradigmskifte i hur frågan framas – och det öppnar dörrar för internationella förhandlingar som tidigare ansetts politiskt omöjliga.

För oss som arbetar med AI-driven affärsutveckling är budskapet glasklart: den organisation som tar ansvarsfull AI på allvar i dag bygger inte bara ett bättre rykte – den bygger en mer hållbar och konkurrenskraftig verksamhet för morgondagen.