AI-forskarnas domedagsvarningar – genuint civilkurage eller lönsam skrämseltaktik?

När varningarna kommer inifrån

Rishub Jain var forskare vid Google DeepMind tills han i somras insåg något som fick honom att lämna in sin uppsägning. Han arbetade med nästa generations AI-modeller och såg hur systemen allt mer skriver kod som förbättrar andra system — en process kallad rekursiv självförbättring — där mänsklig tillsyn gradvis försvinner ur bilden. Enligt Wired är han långt ifrån ensam.

Den senaste tidens dramatiska kulmen kom när Jacob Coxon, forskare vid Anthropic, offentligt avgick med en skarp varning om att företaget "rusar rakt mot självförbättrande superintelligens och spelar med våra liv." Det som verkligen fick branschen att tappa hakan var att Anthropics egen ansvarige för säkerhetsanpassning — i stället för att ta avstånd — öppet instämde och uppgav att han personligen bedömer risken för att AI dödar alla människor till mer än tio procent inom det kommande decenniet.

En synnerligen känslig tajming

TechCrunch lyfter fram en detalj som förändrar hela läsningen av händelsen: Anthropic uppges just nu förbereda sig för en börsintroduktion. Det är knappast ett trivialt sammanhang. När en säkerhetsforskare avgår med apokalyptiska ord, och bolagets egna säkerhetsansvarige håller med, mitt under förberedelserna inför en av teknikbranschens mest uppmärksammade börsdebuter — ja, då är det rimligt att ställa sig frågan om vad som egentligen pågår.

Är det civilkurage? Eller är det något mer beräknat?

Domedagspratet som varumärkesstrategi

Breakits krönikör Hanna Åkesson identifierar ett mönster som förtjänar att tas på allvar: de bolag som bygger världens mest kraftfulla AI är samma bolag som höjer varningsflagg om dess farlighet. Det är en paradox med en möjlig förklaring. Varningarna tjänar flera syften samtidigt — de förstärker bilden av tekniken som omvälvande och kraftfull, vilket lockar investerare, och de positionerar bolagen som ansvarsfulla aktörer trots att de gasar på i fullt tempo.

Som Breakit påpekar: samma bolag som säljer AI-verktyg för vardagsbruk varnar för att just den typen av teknik kan bli existentiellt farlig. Logiken haltar, och frågan om ansvar förblir obesvarad.

Kritikern som inte låter sig bländas

Forskaren Timnit Gebru — känd sedan sin dramatiska avgång från Google 2018 — är rakt på sak. I sin nya bok Deep Unlearning argumenterar hon, enligt Wired, för att varningarna om mänsklighetens undergång är avsedda att distrahera från de konkreta skador som redan sker idag. Partiskhet inbyggd i system, massövervakning, och förträngning av marginaliserade röster i teknikutvecklingen.

— Varför satsar de enorma resurser på att lösa matematikproblem? frågar hon retoriskt. Det handlar om att kunna säga: Vi löste det. Och i nästa andetag hävda att det vi löste är så farligt att ingen annan borde få kontrollera det.

Det är en skarp analys — och inte utan bärkraft.

Tillsynsmyndigheterna halkar efter

Mitt i detta spänningsfält finns en tredje aktör som sällan syns i rubrikerna: tillsynsmyndigheterna. Computer Sweden rapporterar att EU:s cybersäkerhetsmyndighet Enisa efter månader av förhandlingar äntligen fått tillgång till Anthropics avancerade modell Mythos 5 — men inte den nyare versionen Mythos 5.1. Storbritanniens AI Safety Institute befinner sig i samma situation.

Detta är symptomatiskt. Medan bolagen itererar i kvartals- och månadstakt rör sig den oberoende granskningen i ett helt annat tempo. EU befinner sig mitt i genomförandet av sin AI-förordning, och frågorna om insyn och kontroll är högst aktuella — men svaren dröjer.

Och det är kanske just där skon klämmer mest. Oavsett om forskarnas varningar är genuina eller strategiska, pekar de på ett strukturellt problem: de som bygger tekniken sätter själva villkoren för vem som får granska den, och i vilken takt.