De bygger tekniken som kan utplåna oss – och vet om det
Anthropics egna forskare tror i hemlighet att deras AI kan utplåna mänskligheten.
Varningen inifrån
När Jacob Coxon, tidigare anställd på AI-säkerhetsbolaget Anthropic, publicerade sitt avgångsinlägg på X förväntade han sig kanske inte att det skulle bli en branschskälvning. Men det som förvandlade ett vanligt avskedsmeddelande till viral spridning var det han hävdade om stämningen bakom stängda dörrar: de som bygger världens mest kraftfulla AI-system tror på djupet att tekniken kan döda oss alla innan detta decennium är slut.
Det verkligt uppseendeväckande kom sedan. En av Anthropics egna säkerhetschefer bekräftade bilden offentligt – ja, ungefär så ser vi på saken. Enligt Wired är detta inte en ny ståndpunkt för Anthropic; företagets grundare har länge drivit en öppet paradoxal affärsidé: vi bygger något tillräckligt farligt för att förgöra mänskligheten, och just därför måste vi vara de som gör det – med säkerheten i centrum.
Coxons anklagelse är dock att denna välmenande filosofi inte håller i praktiken. Enligt honom beter sig Anthropic i verkligheten lika hänsynslöst som sina konkurrenter i jakten på allt kraftfullare modeller. Wired:s teknikkorrespondent Will Knight påpekar att det anmärkningsvärda inte är åsikten i sig – den har cirkulerat länge i branschen – utan att en konkret inblick i den interna kulturen nu blivit offentlig egendom.
Bromsar som kanske är olagliga
Samtidigt, på andra sidan det politiska landskapet i Washington, pågår en helt annan men lika avslöjande diskussion. Enligt Wired har OpenAI kontaktat ledamöter i den amerikanska kongressen med en närmast surrealistisk fråga: är det överhuvudtaget lagligt att samordnat bromsa den mest avancerade AI-utvecklingen?
Frågan är inte akademisk. OpenAI:s chefvetare Jakub Pachocki argumenterade nyligen offentligt för att framtidens AI-forskning måste innefatta samordnade bromsar – i synnerhet för självförbättrande system som annars riskerar att bli omöjliga att hantera. Det låter rimligt. Problemet är att ett sådant samarbete mellan de ledande AI-laboratorierna kan kollidera med amerikansk konkurrenslagstiftning.
Nicholas Felstead, biträdande direktör vid Australiens konkurrens- och konsumentmyndighet, slog fast i mars att en samordnad paus i AI-utvecklingen kan likställas med att företag gemensamt begränsar sin produktion – vilket potentiellt bryter mot den amerikanska Sherman-lagen om konkurrens. Även om de flesta säkerhetssamarbeten troligen skulle klara juridisk prövning, varnar Felstead för att den rättsliga osäkerheten i sig kan verka avskräckande. Med andra ord: oron för rättsliga följder kan hindra precis de säkerhetsåtgärder som alla parter egentligen vill vidta.
Det absurda systemfelet
Taget tillsammans målar de två nyheterna upp något som liknar ett institutionellt systemfel av historiska proportioner. Vi har å ena sidan AI-företag som internt erkänner att de bygger potentiellt existentiellt farlig teknik. Å andra sidan ett juridiskt och politiskt ramverk som kan förbjuda dem att gemensamt göra något åt det.
Det är här bilden blir verkligt skarp: det är inte nödvändigtvis brist på vilja som driver kapplöpningen framåt – det kan vara brist på tillåtelse att stanna upp.
Finns det ljuspunkter? Ja, faktiskt. Wired rapporterar att det finns tidiga tecken på att kongressen börjar lyssna. Det är ett litet men viktigt steg. För om lagstiftarna förstår att gällande konkurrensrätt i praktiken omöjliggör nödvändigt säkerhetssamarbete, finns det åtminstone förutsättningar för att ändra spelreglerna.
Som affärsutvecklare ser jag enorma möjligheter i AI-omställningen – men möjligheter kräver ett fungerande fundament. Ett ekosystem där företag inte kan samarbeta om säkerhet utan att riskera stämning är inte ett ekosystem som levererar långsiktigt värde. Det är en tidsinställd mekanism.
Den verkliga frågan är inte längre om AI är farlig. Det verkar branschen själv ha accepterat. Frågan är om de strukturer som omger tekniken är tillräckligt smidiga för att hänga med i det tempo som utvecklingen håller.
Vår analys
Dessa två nyheter hör samman på ett sätt som är lätt att missa om man läser dem separat. Tillsammans synliggör de ett strukturellt vakuum: de som bygger tekniken saknar de rättsliga verktyg som krävs för att ta det kollektiva ansvar de själva säger sig vilja ta.
Det är ett problem som inte löser sig av marknaden. Det kräver lagstiftning – och lagstiftning tar tid, medan AI-utvecklingen inte gör det.
Jag ser ändå en försiktig optimism i att frågan nu ställs explicit inför kongressen. Det är ett tecken på att branschen inte längre nöjer sig med intern självreglering utan aktivt söker ett ramverk utifrån. Det är rätt rörelse, även om den kommer sent.
Nästa avgörande steg är om lagstiftarna förstår frågans tekniska djup tillräckligt väl för att ge meningsfulla svar – och om de gör det i tid. Här har Sverige och EU en möjlighet att gå före med tydligare prejudikat för säkerhetssamarbete inom tekniksektorn.