Tre tecken på att ingen bestämt vem som har ansvaret – AI-makten växer utan tydliga regler

När verktyget är mäktigare än regelverket

Jag gillar att bygga saker. Det är faktiskt därför jag trivs med AI-utvecklingens tempo — det finns hela tiden nya verktyg att förstå, nya arkitekturer att dissekera. Men det finns ett grundkrav för att kraftfulla verktyg ska vara användbara snarare än farliga: att de som hanterar dem vet vad de gör, och varför.

Den här veckan serverades vi tre påminnelser om att det grundkravet långtifrån alltid uppfylls.

Hemlig modell, oklara direktiv

Låt oss börja med det som på pappret låter mest lovande. Enligt Defense One har den amerikanska myndigheten för cybersäkerhet och infrastrukturskydd, CISA, nu full tillgång till Anthropics avancerade AI-modell Mythos Preview — en modell som distribueras utanför offentliga kanaler, inom ramen för ett projekt kallat Project Glasswing. Motivet är begripligt: modellen bedöms vara så kraftfull att den i fel händer avsevärt kan förstärka angripares förmåga att ta sig in i datorsystem.

Det låter som ett ansvarsfullt grepp. Men här kommer det som får mig att rynka pannan: Vita husets kontor för nationell cybersamordning har ännu inte fastställt några tydliga ramar för hur CISA ska använda modellen. Federala teknikledare ska i det tysta ha klagat över att de saknar vägledning. Man har alltså gett en säkerhetsmyndighet ett av de vassaste AI-verktygen som existerar — och sedan lämnat dem åt sitt öde vad gäller hur det ska brukas.

Det är ungefär som att låna ut ett avancerat diagnostikverktyg till ett sjukhus och glömma att skriva en instruktionsmanual. Verktygen är kapabla. Strukturen kring dem är det inte.

Pusselläckaget — när oskyldiga frågor avslöjar hemligheter

Medan CISA-nyheten handlar om frånvaron av styrning, pekar forskning publicerad på Hugging Face på ett helt annat slags problem: osynliga konsekvenser av hur AI-agenter arbetar.

Studien bakom konceptet MosaicLeaks beskriver något som kallas mosaikeffekten. En AI-agent som söker igenom interna dokument och kombinerar resultaten med externa webbsökningar kan läcka känslig information — inte genom ett enskilt avslöjande, utan som ett pussel av till synes harmlösa förfrågningar. Varje enskild sökfråga ser oskyldig ut. Men den som övervakar agentens nätverkstrafik kan sätta ihop bitarna och rekonstruera konfidentiella uppgifter.

I ett konkret exempel från studien söker en agent upp information om ett företags molnmigrering, ett säkerhetsavslöjande och en specifik leverantör — i separata, vardagliga förfrågningar. Resultatet: en utomstående kan dra slutsatsen att 70 procent av företagets infrastruktur hade migrerats till molnet vid en viss tidpunkt. Uppgifter som enbart fanns i interna dokument.

Forskarna delar in läckaget i tre nivåer: avsiktsläckage, svarläckage och fullständigt informationsläckage. Ju längre upp på skalan, desto allvarligare angrepp mot verksamhetens integritet. Det som gör detta tekniskt fascinerande — och praktiskt bekymmersamt — är att standardkryptering och åtkomstkontroll inte hjälper det minsta. Det är mönstret av frågor som avslöjar, inte innehållet i svaren.

När anställda tystades

Den tredje nyheten handlar inte om teknik utan om makt. Rapporterar The Verge: tre mjukvaruingenjörer på Amazon vittnade i juni inför Seattles stadsfullmäktige om ett förslag att tillfälligt stoppa utbyggnaden av storskaliga datacenter. En vecka senare — dagen efter att moratoriet röstades igenom — kallades de in till oanmälda möten med personalavdelningen. Disciplinära åtgärder, inklusive avsked, uppgavs vara aktuella.

De tre har nu lämnat in en formell anmälan till Seattles kontor för medborgerliga rättigheter, med hänvisning till en lokal lag som förbjuder arbetsgivare att diskriminera anställda på grund av deras politiska yttranden. Amazon tillbakavisar att avsked planerades och hänvisar till interna rutiner kring vem som får uppträda som företagsföreträdare.

Men oavsett hur den juridiska tvisten slutar är den symbolvärdet tydligt: de som bygger AI-infrastrukturen riskerar att möta motåtgärder om de offentligt ifrågasätter hur den infrastrukturen byggs. Det är ett allvarligt incitamentsproblem.

Tre nyheter, ett tema

Sett var för sig är varje nyhet allvarlig nog. Sett tillsammans berättar de något viktigare: AI-makten koncentreras snabbt, men de institutionella strukturerna — regelverk, transparens, trygghet för visselblåsare — håller inte jämna steg. Det är inte ett argument mot AI. Det är ett argument för att ta styrningsfrågan på fullaste allvar, och att göra det nu.