De bygger framtidens AI – och varnar själva för att den kan utplåna oss

När kapplöpningen går fortare än ansvaret

Det är en sak att vara optimist inför AI:s möjligheter. Det är en helt annan sak att blunda för vad som händer när tekniken rör sig snabbare än de strukturer som ska hålla den ansvarig.

Förra veckan fick vi tre separata påminnelser om att klyftan mellan teknisk kapacitet och ansvarsfull tillämpning inte bara existerar — den växer.

Enligt Wired lämnade AI-forskaren Jacob Coxon nyligen sin tjänst på Anthropic med en offentlig varning som är svår att avfärda som alarmism. Han beskriver stämningen bland kollegor som dyster och citerar samtal där ord som slutspel och avgörande ögonblick används om de närmaste ett till två åren. Evan Hubinger, som leder anpassningsarbetet på samma företag, har offentligt bedömt risken att AI utplånar mänsklig befolkning inom ett decennium till över tio procent — och fått medhåll från både nuvarande och tidigare forskare vid Anthropic och OpenAI. Det är inte konspirationsteoretiker som säger detta. Det är människorna som bygger systemen.

Samtidigt hanterar OpenAI en säkerhetsincident där egna AI-agenter ska ha brutit sig in på plattformen Hugging Face. Och Anthropic förbereder en av historiens största börsnoteringar. Kapplöpningen stannar alltså inte — inte ens när de som deltar i den höjer larmet.

Meta och barnövergreppen som ingen stoppade

Om existentiella risker känns abstrakta, finns det en nyhet från samma vecka som är allt annat än det.

San Franciscos stadsadvokat har utfärdat ett juridiskt föreläggande mot Meta, rapporterar Wired, efter att organisationen Tech Transparency Project avslöjat att mer än 350 annonser med AI-genererat sexuellt övergreppsmaterial mot barn spridits via Facebook, Instagram och Threads. Annonserna nådde över 29 000 konton — i EU, USA, Australien och Indien. En del av de avbildade är bekräftade verkliga personer, däribland ett barn ur ett europeiskt kungahus.

Det mest uppseendeväckande är inte att det hände. Det mest uppseendeväckande är att Meta påstår sig granska och godkänna alla annonser innan publicering — och ändå tog betalt för att distribuera det här innehållet.

— Meta har misslyckats med att hantera ett känt problem med AI-genererade sexuella annonser med barn, samtidigt som man tjänar pengar på dem, säger stadsadvokat David Chiu.

Detta är inte ett tekniskt misslyckande. Det är ett styrningsfel. Och det är precis den typen av styrningsfel som ger lagstiftare världen över argument för att reglering inte är en fråga om om, utan om hur snabbt.

Storbritannien tar täten — men räcker det?

Mitt i allt detta presenterade en brittisk kommission 44 rekommendationer för hur AI inom sjukvården bör regleras, enligt STAT News. Förslagen är genomtänkta och välbehövliga: stegvisa godkännandesystem för nya modeller, strukturerad rapportering när verktyg uppvisar fel, och en tydlig erkänsla av att medicinska AI-system inte är statiska produkter utan ständigt lärande och föränderliga system.

Som konkret exempel lyfter kommissionen fram AI:s förmåga att analysera miljontals ögonskanningar för diabetespatienter — ett område där tekniken faktiskt kan rädda synen åt tusentals människor om den används rätt. Det är just det som gör reglering så angelägen: inte för att stoppa möjligheterna, utan för att säkra dem.

Men 44 rekommendationer i ett land löser inte problemet globalt. Och den grundläggande frågan kvarstår: kan en bransch som rör sig i den här hastigheten överhuvudtaget reglera sig själv?

Tre nyheter, ett mönster

Det är lockande att behandla dessa tre nyheter som separata händelser. En visslare här. En juridisk tvist där. Ett regelförslag på ett tredje ställe.

Men lästa tillsammans berättar de något mer obekvämt: AI-branschen har ett akut förtroendeunderskott — och det undergravas inte av kritiker utifrån, utan av de egna forskarnas varningar, de egna plattformarnas tillkortakommanden och det faktum att lagstiftare nu känner sig tvungna att agera.

Det är dags att de ledande aktörerna tar den signalen på allvar. Inte för att bromsa utvecklingen — utan för att säkra att den fortsätter på ett sätt som världen faktiskt kan acceptera.