Anthropic manar till ansvar – och bygger samtidigt anfallsvapen åt NSA

Säkerhetsföretaget som bygger offensiva vapen

Det finns en speciell sorts kognitiv dissonans som tycks höra hemma i Silicon Valley. Man proklamerar högtidligt om ansvar, etik och mänsklighetens bästa – och undertecknar sedan avtal som pekar i precis motsatt riktning.

Anthropic är det senaste exemplet.

Företaget, grundat av en grupp tidigare OpenAI-forskare med uttalat fokus på säker AI-utveckling, har nyligen tagit en ovanlig och modig ställning: branschen bör gemensamt bromsa AI-kapprustningen. Enligt Ny Teknik skriver Anthropic i ett offentligt uttalande att "det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg".

Det är modigt. Det är ansvarsfullt. Det är precis den typen av röst branschen behöver.

Och sedan rapporterar Financial Times, återgivet av DI Digital, att Anthropic har placerat ett halvdussin egna ingenjörer hos NSA för att bygga och anpassa en specialmodell – döpt till Mythos – avsedd för offensiva cyberoperationer.

En riktningsförändring med stora konsekvenser

Låt oss vara tydliga med vad offensiva cyberoperationer innebär. Det handlar inte om att försvara nätverk eller skydda medborgare. Det handlar om att aktivt angripa system, infrastruktur och – i förlängningen – människor. Att ett bolag vars hela varumärke vilar på säker och ansvarsfull AI nu aktivt bidrar till sådan förmåga är, som DI Digital korrekt konstaterar, en anmärkningsvärd riktningsförändring.

Jag förstår argumentet på den andra sidan. Microsoft, Google och Amazon har sedan länge djupa band till den amerikanska försvars- och underrättelseapparaten. Teknikbranschen och statsmakten har alltid haft ett komplicerat förhållande. Och det finns genuina skäl att argumentera för att demokratiska stater behöver tillgång till den bästa tillgängliga tekniken – även för offensiva ändamål.

Men Anthropic är inte vilket teknikbolag som helst. Det är ett bolag som byggde sin identitet på att vara annorlunda. På att sätta säkerhet och etik före tillväxt. På att våga säga det branschen inte vill höra.

När det bolaget väljer att hjälpa NSA med offensiva cybervapen, utan att offentligt förklara hur det förhåller sig till de egna principerna, uppstår en trovärdighetskris.

Varningen om självförstärkande system

Det som gör Anthropics offentliga varning så träffande – och kontrasten så skarp – är att den pekar på något verkligt. Företaget varnar specifikt för att AI-systemen redan börjar påskynda sin egen utveckling, att vi rör oss mot system som kan bli smartare utan mänsklig tillsyn. "Vi är inte där ännu, och det kan gå att undvika", skriver Anthropic – en formulering som är både lugnande och djupt oroande på samma gång.

För att adressera detta planerar företaget ett branschmöte med teknikexperter, forskare och regeringstjänstemän. Tanken är att ingen aktör ensam kan välja att sakta ned utan att hamna på efterkälken – förändringen måste ske gemensamt.

Det är rätt analys. Det är rätt initiativ. Men det rimmar illa med att samtidigt leverera skräddarsydda AI-verktyg till en av världens mäktigaste underrättelseorganisationer, vars uppdrag är offensiv kapacitet – inte inbromsning.

Möjligheten som fortfarande finns

Jag är genuint positiv till AI-omställningen. Jag tror på teknikens förmåga att lösa problem vi inte ens kan formulera ännu. Men just därför är den här typen av dubbelhet farlig – inte för att Anthropic är ondskefullt, utan för att det urholkar det förtroende som hela branschen behöver för att navigera de närmaste avgörande åren.

Transformation kräver trovärdighet. Och trovärdighet kräver konsekvens.

Anthropic har fortfarande möjligheten att förklara sig. Att visa hur Mythos-samarbetet förhåller sig till de uttalade principerna. Att vara det transparenta säkerhetsbolag man säger sig vara. Detaljer om avtalets omfattning, ekonomiska villkor och operativa syfte har enligt DI Digital ännu inte offentliggjorts – och det är just den tystnaden som skadar mest.