Pinker kritiserar skrämseltaktiken i AI-debatten: Efterlyser nykter säkerhetsteknik i stället för domedagsprofetior
Pinker uppmanar: Sluta med domedagsprofetior – satsa på nykter säkerhetsteknik i stället.
Den store optimisten möter teknikens mörkaste fantasier
Det finns en märklig paradox i hur vi talar om artificiell intelligens just nu. Å ena sidan lever vi mitt i en av de mest omvälvande teknologiska transformationerna i mänsklighetens historia — med verktyg som skapar, löser problem och förstärker mänsklig kapacitet på sätt vi knappt hunnit ta in. Å andra sidan domineras den offentliga debatten av katastrofscenarier hämtade ur science fiction.
In i den debatten kliver nu Steven Pinker, psykolog vid Harvard och en av vår tids mest kände förespråkare för mänskligt framåtskridande. I ett öppet brev på kulturtidskriften Quillette, riktat till den inflytelserike teknikbloggaren Scott Alexander, gör Pinker upp med det han kallar domedagsretorik — och efterlyser i stället konkret, systematisk säkerhetsteknik grundad på oberoende tillsyn och mänsklig kontroll.
Gem-fabriken och den inbyggda logikfällan
Pinker tar sikte på ett av AI-säkerhetsdebattens mest citerade tankeexperiment: föreställningen om en AI som, i sin strävan att maximera produktionen av gem, till slut offrar hela mänskligheten för att uppnå sitt mål. Det är ett dramatiskt scenario — men det bygger, menar Pinker, på en fundamental tankevurpa.
Antagandet att intelligens per automatik är kopplad till en drift att dominera och kontrollera omgivningen stämmer helt enkelt inte med hur intelligens faktiskt fungerar. Varken hos människor eller i maskiner. Att vara smart innebär inte att man per definition vill erövra världen — det är en mänsklig projektion, inte en teknisk nödvändighet.
Det är ett argument som bör tas på allvar, inte minst eftersom det utmanar hela fundamentet för den så kallade "existentiella risk"-rörelsen inom AI-säkerhetsdebatten.
Pinker är ingen naiv teknikoptimist
Vad som gör Pinkers inlägg intressant — och trovärdigt — är att han inte är en okritisk teknikjubilare. Han medger öppet, enligt The Decoder, att han tidigare underskattat hur kraftfulla de stora språkmodellerna skulle bli. Det är ett ovanligt ärligt erkännande från en offentlig intellektuell.
Han riktar också skarp kritik mot AI-företagen och deras tendens att rusa ut med produkter innan tillräckliga säkerhetsåtgärder är på plats. Och med en viss välplacerad ironi noterar han att det ofta är samma aktörer som höjer rösten mest om existentiella risker som också driver på den snabbaste och mest hänsynslösa spridningen av tekniken. Det är en motsägelse som förtjänar mer uppmärksamhet än den hittills fått.
De verkliga riskerna — och vad vi bör göra åt dem
Så vilka faror tar Pinker faktiskt på allvar? Svaren är mer jordnära men inte mindre allvarliga: bioterrorism, it-angrepp och okontrollerade AI-agenter som handlar utan mänsklig inblandning eller möjlighet till ingripande. Det är risker som redan existerar, som är mätbara och som kräver konkreta svar — inte filosofiska tankeövningar om superintelligens.
Mot dessa hot är domedagsretoriken inte bara verkningslös — den är direkt skadlig. Den drar uppmärksamheten bort från de åtgärder som faktiskt skulle göra skillnad: oberoende tillsyn, tydliga ansvarskedjor och systematisk säkerhetsteknik som utvecklas parallellt med, snarare än långt efter, de system den ska skydda mot.
Det är en position jag som affärsutvecklare och AI-entusiast kan skriva under på helhjärtat. Jag har sett hur organisationer förlamar sig själva med katastrofscenarier i stället för att bygga de strukturer och processer som faktiskt hanterar riskerna. Rädsla är sällan en bra strategi — omdöme och systematik är det.
En välbehövlig röst — men frågan är inte avgjord
Betyder det att Pinker har fullständigt rätt och att de som varnar för mer långtgående AI-risker har fel? Nej, och det vore en lika grov förenkling som de domedagsscenarier han kritiserar. Debatten om hur vi hanterar allt mer autonoma system är legitim och viktig.
Men Pinker tillför något som debatten desperat behöver: en nykter, evidensbaserad grund att stå på. En påminnelse om att oro utan handling är meningslös, och att de mest dramatiska föreställningarna ibland skymmer sikten för de verkliga problem vi faktiskt kan och måste lösa — redan nu.
Vår analys
Pinkers inlägg är symtomatiskt för en mognad i AI-debatten som länge varit efterlängtad. Vi rör oss, om än långsamt, bort från den tidiga fasen av oreflekterad entusiasm och paralyserad skräck — mot något mer produktivt: ett faktabaserat samtal om konkreta risker och konkreta lösningar.
Det som är riktigt intressant på sikt är om detta skifte i retorik också leder till ett skifte i handling. Tillsynsmyndigheter världen över letar efter ramverk. Företag söker riktmärken för vad ansvarsfull AI-utveckling faktiskt innebär i praktiken. Röster som Pinkers — kritiska men konstruktiva — kan bidra till att flytta tyngdpunkten från filosofi till ingenjörskonst.
Min bedömning är att de organisationer som redan nu investerar i just oberoende tillsyn och systematisk säkerhetskultur kommer att ha ett betydande försprång — inte bara etiskt, utan affärsmässigt — när regleringen väl skärps. Och den kommer att skärpas. Frågan är bara om vi hinner bygga rätt strukturer dessförinnan.