Anthropic manar till AI-bromsning — och placerar samtidigt egna ingenjörer hos NSA för offensiva cyberoperationer

Säkerhetens förkämpe — eller branschen mest sofistikerade dubberspel?

Anthropic har länge haft en särskild roll i AI-branschen. Inte som den coolaste aktören, inte som den mest aggressiva tillväxtmaskinen — utan som den ansvarsfulla rösten. Grundarna lämnade OpenAI just med hänvisning till säkerhetsfrågor. Claude marknadsförs med betoning på etisk design. Och nu senast: ett offentligt blogginlägg där Anthropic uppmanar till ett globalt uppehåll i AI-utvecklingen, med argumentet att systemen snart kan nå en punkt där de förändrar sig själva utan mänsklig inblandning.

Det är ett modigt utspel. Det är också ett utspel som kräver att man tar företaget på allvar som principfast aktör.

Men enligt uppgifter till Financial Times, återgivna av Computer Sweden, pågår samtidigt något som åtminstone vid första anblick ter sig oförenligt med den bilden: Anthropic har placerat flera av sina egna utvecklare direkt hos den amerikanska säkerhetstjänsten NSA, med uppdraget att anpassa AI-modellen Mythos till myndighetens specifika behov. Modellen beskrivs som ovanligt skicklig på att identifiera och utnyttja sårbarheter i datasystem — förmågor som enligt källorna kan användas i operationer riktade mot länder som Kina och Iran.

Det handlar alltså inte om ett passivt licensavtal. Det handlar om Anthropics egna ingenjörer, på plats, hos en av världens mest offensivt inriktade underrättelsemyndigheter.

Paradoxen är inte bara retorisk

Man kan argumentera för att spänningen här är mer komplex än ett enkelt hyckleri. Anthropic befinner sig samtidigt i en juridisk tvist med Pentagon — det departement som NSA sorterar under. Företaget har offentligt sagt nej till massövervakning och autonoma vapensystem. Försvarsdepartementet har å sin sida klassat Anthropic som en potentiell leverantörsrisk. Det är inte bilden av ett bolag som säljer sig till högstbjudande utan vidare eftertanke.

Men det gör inte paradoxen mindre verklig. Den gör den mer intressant.

Vad vi ser är ett företag som försöker navigera i ett landskap där de gamla gränserna mellan civil teknik, statlig säkerhet och etiska åtaganden har lösts upp helt. Anthropic vill uppenbarligen ha inflytande i Washington — och inflytande i Washington kostar något. Frågan är vilket pris man är beredd att betala.

Uppmaningen om paus — trovärdig eller taktisk?

Låt oss ta pausuppmaningen på allvar ett ögonblick. Anthropic skriver att AI-system snart kan nå en punkt där de utvecklas utan mänsklig kontroll — och att detta är en nära förestående, konkret risk, inte ett avlägset tankeexperiment. Det är en stark formulering från ett bolag som själva är en av de ledande krafterna bakom just den utveckling de vill bromsa.

Som Computer Sweden påpekar är liknande uppmaningar inte nya. Det öppna brevet från 2023, undertecknat av hundratals forskare och teknikprofiler, ledde inte till någon konkret handling. Frågan är om Anthropics röst väger tyngre nu — eller om uppmaningen snarare fungerar som en signal till lagstiftare om att företaget är den pålitliga aktören man bör lyssna på när regleringen väl kommer.

Det är inte ett cyniskt antagande. Det är affärsstrategi. Och det kan mycket väl vara båda på en gång.

Vad det egentligen handlar om

Jag tror att Anthropic befinner sig i en position som allt fler teknikbolag kommer att hamna i: man kan inte längre hålla isär det etiska varumärket från de operativa besluten. Varje kontrakt, varje partnerskap, varje ingenjör man sänder ut på uppdrag — det är nu en del av vad företaget är, inte bara vad det gör.

Den som vill positionera sig som säkerhetens förkämpe i AI-eran måste vara beredd på att den positionen granskas i detalj. Och just nu är granskningen inte nådig.