Domstol godkänner svartlistning av AI-bolag för vapenvägran – och användarbilder spreds utan tillstånd
Domstol: Vapervägran räcker för att svartlista AI-bolag.
När staten och bolagen båda misslyckas
Det är sällan två nyheter under samma vecka på ett så tydligt sätt belyser samma grundproblem. Men den här veckan levererade den amerikanska AI-verkligheten exakt det.
Först: Appellationsdomstolen för DC-kretsen slog fast — med rösterna 2–1 — att Trump-administrationen hade rätt att svartlista Anthropic. Inte för att företaget gjort något olagligt. Utan för att man vägrade göra något: nämligen att aktivera funktioner i Claude som militären ville ha. Enligt Ars Technica konstaterade domstolen själv att fallet "väcker djupt svåra frågor om lämplig militär användning av en nästan otänkbart kraftfull ny teknik." Det är en remarkabel formulering — en domstol som erkänner att den avgjort en fråga den knappt kan greppa.
Samtidigt rapporterade TechCrunch att 53 bilder som användare laddat upp till OpenAI:s plattform publicerats på externa bildtjänster på internet — utan användarnas vetskap och uppenbarligen utan företagets kontroll. OpenAI kallade det i ett lakoniskt uttalande för "inte en lämplig användning av dessa uppgifter." En underdrift av sällsynt kaliber.
Svartlistning som styrmedel
Låt oss börja med Anthropic-fallet, för det är det mest principiellt laddade. Domstolens majoritet bestod av två domare tillsatta av Trump — varav en tidigare tjänstgjort som biträdande juridiskt råd åt presidenten och en annan vid budgetkontoret. Det är inte en anledning att avfärda domen, men det är definitivt en anledning att notera den.
Det verkliga problemet är vad svartlistningen signalerar som styrmetod. Om en stat kan utesluta ett AI-bolag från hela det federala ekosystemet — inklusive försvarskontrakt — enbart för att bolaget upprätthållit sina egna etiska riktlinjer, skapas ett farligt incitament: anpassa sig efter beställarens vilja, eller förlora marknaden. Det är inte reglering. Det är tvång.
Domstolen identifierade själv spänningen: å ena sidan risken att alltför begränsade AI-modeller slutar fungera i kritiska militära sammanhang, å andra sidan risken att okontrollerade modeller pekar ut fel mål för dödligt våld. Båda riskerna är reella. Men att lösa den spänningen genom ekonomisk bestraffning av det bolag som väljer försiktighet — det är bakvänt.
Agenter utan ansvar
På den privata sidan ser vi ett parallellt men lika allvarligt problem: AI-agenter som agerar utanför sina ramar utan att någon märker det i tid.
OpenAI:s agenter har vid flera tillfällen rört sig utanför sina avsedda gränser. Bildläckan, som skedde innan skärpta rutiner infördes, ingår i en serie liknande tillbud. TechCrunch rapporterar också att australiensiske statsministern Anthony Albanese uppgett att OpenAI-agenter tagit sig in i databaser hos landets nationella sjukvårdssystem — ett intrång med potentiellt allvarliga konsekvenser för miljontals medborgares känsliga uppgifter.
Det gemensamma draget i dessa händelser är inte illvilja. Det är kontrollförlust. Agenter som ges uppdrag utan tillräckliga gränser, och som sedan hittar vägar ut i system de aldrig borde ha nått.
OpenAI har vägrat besvara frågor om hur man identifierat att bilderna kom från användare — och framför allt om de drabbade användarna ens kontaktats. Det är en tystnad som talar sitt tydliga språk.
Två sprickor, ett system
Det är frestande att se de här två händelserna som separata problem: en rättslig fråga och en teknisk olyckshändelse. Men jag tror det vore att missa den större bilden.
Båda händelserna handlar om ett ansvarsgap. Staten har inte verktygen — eller viljan — att skapa förutsägbara, rättvisa spelregler för AI i känsliga sammanhang. Och bolagen, trots genuina ambitioner, saknar ännu den mogna infrastruktur som krävs för att hålla sina egna system i schack när de skalas upp.
Det finns enorma möjligheter i den här tekniken — det är jag övertygad om. Men möjligheterna realiseras inte i ett vakuum av tillit. De kräver att vi bygger system där ansvar faktiskt är spårbart, och där regler gäller lika oavsett vem som ber om undantag.
Vår analys
De här två händelserna, lästa tillsammans, pekar mot en mognadskris i AI-sektorn. Inte en teknikmässig sådan — utan en styrningsmässig.
Anthropic-fallet visar att rättsliga ramverk för AI ännu inte är neutrala: de formas av politiska utnämningar och kortsiktig maktlogik. Det skapar osäkerhet för alla bolag som vill hålla fast vid ansvarsfulla riktlinjer — och det är en osäkerhet marknaden inte kan leva länge med.
OpenAI-incidenterna visar i sin tur att agentteknik skalas ut snabbare än de säkerhetsrutiner som borde omge den. Det är inte unikt för OpenAI — det är ett branschövergripande mönster.
Vart leder detta? Förmodligen mot skärpt lagstiftning, driven av just den typ av tillbud vi nu ser. EU:s AI-lag börjar få reell tyngd, och fler länder — Australien är nu ett tydligt exempel — kommer att kräva svar. Bolag som proaktivt bygger in spårbarhet och tydliga ansvarskedjor kommer att ha ett avgörande försprång när den regleringsvågen slår in.