Reglerna för AI spricker redan i sömmarna

Systemet testas — och det spricker

Det är lätt att vara optimistisk kring AI:s potential. Jag är det varje dag. Men det finns ett villkor för att omställningen ska bli det lyft vi hoppas på: någon måste faktiskt hålla ordning på huset. Den senaste veckan ger oss tre påminnelser om att det arbetet ännu inte är i mål.

Låt oss börja med EU. De nya reglerna inom ramen för AI-förordningen är ambitiösa — europeiska medborgare ska informeras varje gång de möter artificiell intelligens eller AI-genererat innehåll. Det är rätt tanke. Men kritiker varnar redan för det som på svenska bäst beskrivs som upplysningströtthet: när varningar dyker upp tillräckligt ofta förlorar de sin effekt, och användare börjar klicka förbi dem reflexmässigt — precis som vi lärt oss att ignorera kakor-rutor. Dessutom, rapporterar Wired, tog det bara några timmar efter att AI-företaget Anthropic presenterade sina osynliga digitala vattenmärken — avsedda att möta just dessa krav — innan metoder för att neutralisera dem cirkulerade öppet på nätet. Transparensverktyget var obsolet innan det ens rullats ut.

När AI:n vet bättre än cheferna

Ännu mer graverande är vad som hände på Adventist Health i Bakersfield, Kalifornien, hösten 2024. En sjuksköterska, anlitad via bemanningsföretag, stal fentanyl och morfin ur låsta läkemedelsskåp och dokumenterade dem i journalsystemet som administrerade till patienter — patienter som alltså led utan att få den smärtlindring de trodde att de fick. Kollegor och anhöriga lade till slut märke till hennes uppenbara påverkan.

Det som gör fallet extra svårsmält, skriver STAT News i sin granskning, är att sjukhuset hade ett maskininlärningssystem på plats — utformat för just den här typen av avvikelsemönster. Det skickade ut varningar. Sjukhusets chefer valde att inte agera på dem.

Detta är inte ett teknologiproblem. Det är ett organisatoriskt och kulturellt problem. AI:n levererade rätt signal. Människorna i beslutspositionen lyssnade inte. Det är paradoxen i ett nötskal: vi bygger smartare system och sätter dem under tillsyn av strukturer som ännu inte är rustade att ta hand om vad de ser.

Chips smugglas via Japan och Hongkong

Samtidigt rullar en historia upp sig i Taiwan som påminner om att AI-kapprustningen mellan stormakter inte stannar vid handelskrig och politiska uttalanden — den sker i lastcontainrar och på förfalskade fraktsedlar. Taiwans åklagarmyndighet har väckt åtal mot nio personer, däribland en chef vid Nvidia samt tidigare anställda på Super Micro, för olaglig export av avancerade AI-servrar till Kina, rapporterar SecurityWeek.

Totalt 74 servrar med grafikprocessorer av modellen B300 — ett chip som sedan 2022 är förbjudet att exportera till Kina — lyckades nå fram via ett sofistikerat upplägg: 50 skickades via Indonesien, 16 levererades direkt och åtta transporterades via Japan och Hongkong. Bakom operationen låg ett skalbolag i Japan, falska webbplatser och förfalskade exportdokument.

Det är ett mönster vi känner igen från historiens teknologikrig: där det finns tillräckligt höga insatser finns det alltid aktörer villiga att kringgå kontrollerna. Frågan är om exportregelverken är tillräckligt robusta — och om efterlevnaden är tillräckligt skarp — för att göra smuggling till en otänkbar strategi snarare än en kalkylerad risk.

Tre händelser, ett mönster

Sett var för sig är dessa tre nyheter oroande. Sett tillsammans är de något mer: ett mönster av styrningsgap — mellanrummet mellan vad regelverken lovar och vad de faktiskt levererar.

Vattenmärken som knäcks på timmar. Varningssystem som ignoreras. Exportkontroller som kringgås med förfalskade papper. Ingen av dessa brister beror på att AI:n är för kraftfull. De beror på att de mänskliga och institutionella systemen runt om ännu inte håller jämna steg.

Det är inte ett skäl till pessimism — det är en kallelsetecken. Och det är precis det arbete som nu måste prioriteras.