Djupast in i skogen: Anthropic bygger det de fruktar för att ingen värre ska göra det först

När fruktan blir affärsmodell

Det finns få positioner i teknikbranschen som är lika intellektuellt utmanande som Anthropics. Bolaget har byggt sin identitet på en djup övertygelse om att avancerad artificiell intelligens utgör en av de mest allvarliga riskerna mänskligheten någonsin ställts inför. Och sedan har man ägnat sig åt att bygga just den tekniken – snabbare, kraftfullare och med större resurser för varje kvartal som går.

Enligt en djupgående granskning av Wired vilar hela Anthropics världsbild på två grundpelare som är omöjliga att skilja åt: att den teknologiska utvecklingen är oundviklig, och att världen mår bättre om de leder den snarare än någon annan. Internt beskriver ledningen sig, enligt tidigare anställda som talat anonymt med tidningen, gärna som "de goda killarna" – ansvarstagande förvaltare av en farlig kraft som ändå inte kan stoppas.

Skogen med skatter och vidunder

Helen Toner, chef för Georgetown Universitets centrum för säkerhet och framväxande teknik och tidigare styrelseledamot i OpenAI, erbjuder en pregnant liknelse för att beskriva Anthropics logik: föreställ dig en skog fylld med både magiska skatter och livsfarliga vidunder. Alla bybor rusar in, lockade av skatterna. Anthropics svar är inte att stanna utanför – det är att tränga längre in i skogen än någon annan.

Logiken är provocerande men inte irrationell. Om det mest kapitalstarka, mest inflytelserika eller minst skrupelfria bolaget sätter normen för hur tekniken utvecklas, vilka säkerhetsprotokoll som prioriteras och vilka gränser som inte får överskridas – då spelar det roll vem som befinner sig i täten. Att abdikera från tävlingen är inte neutralitet. Det är ett aktivt val att låta någon annan bestämma.

Paradoxens pris

Men här uppstår spänningen som branschen ännu inte löst: ju framgångsrikare Anthropic blir, desto mer driver bolaget på den kapprustning man säger sig vilja kontrollera. Varje investering, varje ny modellgeneration, varje statlig upphandling – inklusive militära kontrakt – ökar tempot i en teknologisk acceleration som hela bolagets existens bygger på att bromsa.

Detta är inte unikt för Anthropic. Samma paradox återfinns hos OpenAI, Google DeepMind och en rad andra aktörer som kombinerar ambitiösa säkerhetsagendor med aggressiv affärsutveckling. Men Anthropic har gjort paradoxen till sin varumärkeskärna på ett sätt som få andra vågat, och det gör granskningen mer angelägen.

Från ett affärsutvecklingsperspektiv är strategin genuint intressant. Det Anthropic i praktiken gör är att ta ägarskap över hela problemrymden – både risken och lösningen. Det skapar ett beroendeförhållande där bolagets fortsatta existens och tillväxt framställs som en förutsättning för säkerheten, snarare än ett hot mot den. Det är ett kraftfullt narrativ. Det är också ett narrativ som är extremt svårt att falsifiera utifrån.

Vem granskar vakthundarna?

Den verkliga utmaningen är tillsynsfrågan. Om Anthropics legitimitet vilar på att de är mer ansvarstagande än konkurrenterna – vem avgör det? Bolagets egna säkerhetsutvärderingar, hur rigorösa de än må vara, kan aldrig vara fullständigt oberoende. Det saknas i dag ett trovärdigt, internationellt ramverk för att granska de boldaste påståendena från de aktörer som har störst intresse av att definiera vad "säker AI" faktiskt innebär.

Det hindrar inte mig från att se det genuint positiva i Anthropics arbete. Bolaget har bidragit med viktig forskning, skärpt branschens samtal om ansvarsfull utveckling och pressat konkurrenter att åtminstone tala om säkerhet som en prioritet. Det är inte ingenting. Men det räcker inte som enda svar på frågan om vem som egentligen har makten över teknologins riktning.