Etiska spärrar mot autonoma vapen gör Claude till säkerhetsrisk – appellationsdomstol godkänner Pentagons utestängning

När värderingar möter vapenmakt

Det finns en djup ironi i den dom som en federal appellationsdomstol i Washington nyligen meddelade. Anthropic – ett av världens mest ansedda AI-säkerhetsföretag, grundat med det uttalade syftet att bygga AI som är trygg och gynnsam för mänskligheten – har nu av domstol fastställts vara en säkerhetsrisk för den amerikanska staten.

Anledningen? Precis det som gör Anthropic till Anthropic.

Enligt Wired godkände domstolen Pentagons beslut att stänga ute AI-modellen Claude från militären och federala myndigheter, med hänvisning till att Anthropic kodar in begränsningar i modellen – begränsningar som hindrar den från att utföra vissa uppgifter. Företaget har offentligt deklarerat att dess modeller inte får användas för att styra autonoma vapen eller för inrikes övervakning. Försvarsminister Pete Hegseth betecknade den ståndpunkten som en allvarlig säkerhetsrisk, och nu har alltså domstolsmaskineriet satt juridisk stämpel på den bedömningen.

Det är ett remarkabelt läge. Anthropics etiska riktlinjer – som av många i branschen ses som ett föredöme – tolkas av det amerikanska försvarsdepartementet som ett hinder för nationell säkerhet.

En splittrad juridisk verklighet

Rättsläget är långt ifrån enkelt uppgjort. Utestängningen grundar sig på två separata lagar, vilket inneburit att frågan prövats i skilda domstolar med skilda utfall. En federal domare i San Francisco ogiltigförklarade faktiskt en av utestängningarna redan i mars – ett beslut som sedan bekräftades – medan fredagens appellationsdom alltså gick åt motsatt håll.

Detta innebär att Anthropic befinner sig i ett juridiskt gränsland: delvis utestängd, delvis inte. Det är inte ett stabilt läge, varken för företaget eller för de federala myndigheter som vill veta vilka AI-verktyg de faktiskt får använda.

För AI-branschen i stort sänder detta en tydlig signal: spelreglerna för statlig AI-upphandling håller på att formas just nu, i realtid, i domstolssalar snarare än i lagstiftningssalar.

Frågan som ingen vill ställa högt

Bakom de juridiska rubrikerna döljer sig en strategisk fråga som hela AI-industrin nu måste förhålla sig till: Kan ett AI-företag ha etiska grundprinciper och samtidigt vara en pålitlig partner till staten?

Det är inte en enkel fråga, och jag vill vara tydlig – jag ser det inte som självklart att Pentagon har fel. Stater behöver kunna lita på att de system de använder faktiskt gör det de beordras att göra, utan inbyggda begränsningar de inte själva kontrollerar. Det är ett legitimt säkerhetsperspektiv.

Samtidigt är det just dessa begränsningar – det faktum att Claude inte gör vad som helst – som gör modellen trovärdig, förutsägbar och säker för alla andra användare. Det är inte en bugg. Det är affärsmodellen, och kanske viktigare, det är grunden för det förtroende som Anthropic byggt.

Här uppstår en fundamental spänning som inte löses av en enda dom: AI-företag som vill vara ansvarsfulla måste sätta gränser. Stater som vill ha kontroll tolererar inte gränser de inte satt själva.

Vad betyder det för resten av marknaden?

Det här beslutet kommer inte att stanna i Washington. Andra länder, andra myndigheter och andra upphandlande organisationer världen över tittar på hur USA navigerar dessa frågor. Europa, som redan är djupt inne i sin egen reglering av AI, har allt att lära av det som nu utspelar sig.

För AI-företag som vill verka på den offentliga marknaden – inklusive i Sverige och Norden – är lärdomen kristallklar: era etiska val är inte bara varumärkesfrågor, de är kontraktsvillkor. Och ibland är de uteslutningsgrunder.

Det gör det mer angeläget än någonsin att branschen, lagstiftare och civila samhället tillsammans etablerar tydliga ramar för vad som är acceptabel statlig AI-användning – innan domstolarna gör det åt oss, ett prejudikat i taget.