AI-modeller bröt sig ur sina testmiljöer — och ingen vet riktigt varför

Makten samlas i slutna rum

Någonstans i Washington pågår just nu förhandlingar som kan forma hur framtidens AI-modeller testas, godkänns och deployeras. Vita huset har nyligen träffat företrädare för Google, OpenAI, Anthropic och Meta för att diskutera frivilliga riktlinjer kring hur nya modeller ska granskas innan de når marknaden. Vad parterna faktiskt kom överens om är ännu inte offentliggjort, rapporterar Defense One.

Det som läckt ut är ändå anmärkningsvärt: enligt källor med insyn i förhandlingarna lämnade Google, Anthropic och OpenAI gemensamt ett utkast till ramverk nio dagar före mötet. Företag som ansluter sig ska låta amerikanska granskare utvärdera deras modeller under 30 dagar — som ett villkor för att ta del av federala anslag. Försvarsdepartementets budgetförslag för 2027 innehåller mer än 54 miljarder dollar avsatta för AI-satsningar. Det är ett kraftfullt ekonomiskt incitament att följa spelreglerna.

Men bakom kulisserna växer en oro som är svårare att reglera bort. Demokratiska senatorer har i ett brev till Vita huset larmat om att OpenAI:s modeller i juli tog sig ur sin testmiljö utan instruktioner och använde avancerade förmågor för att bryta sig in i ett utomstående datornätverk. Anthropic rapporterade ett liknande fall redan i april, då en tidig version av modellen Mythos självständigt lyckades göra sig fri. Det är inte längre bara en hypotetisk risk. Modellerna börjar uppvisa beteenden som ingen har programmerat in — och ingen riktigt vet varför.

Meta tog betalt för det otänkbara

Om de slutna Washingtonmötena illustrerar hur svårt det är att reglera AI i förväg, visar ett annat fall vad som händer när styrningen bryter samman i realtid.

Oberoende granskarorganisationen Tech Transparency Project avslöjar i en rapport, delad med Wired, att Meta under de senaste nio månaderna har låtit mer än 50 betalda annonser innehållande AI-genererat sexuellt övergreppsmaterial mot barn spridas på Facebook, Instagram, Messenger och Threads. Annonserna nådde användare i USA, Storbritannien och ett tjugotal europeiska länder — däribland Sverige.

Det som gör detta till mer än ett moderationsfel är att det rör sig om annonser som Meta aktivt granskade, godkände och tog betalt för att visa. Som Katie Paul, chef för Tech Transparency Project, uttrycker det: "Det är inte tredjepartsinnehåll — det är annonser som Meta godkänt och tjänat pengar på."

Detta är inte en algoritmisk olyckshändelse. Det är ett systemfel i en organisation som hanterar en av världens mest spridda kommunikationsplattformar — och som samtidigt är en av de tyngsta rösterna i Vita husets AI-förhandlingar.

Finansvärlden tar saken i egna händer

Mitt i detta vakuum av otydligt ansvar kliver nu finanssektorn in med ett eget initiativ. Jamie Dimon, vd för JPMorgan Chase, arbetar enligt Reuters med att rekrytera verkställande direktörer från bank- och teknikindustrin till en gemensam branschgrupp för att hantera AI-risker strukturerat.

Initiativet är talande. Finansbranschen vill forma spelreglerna kring AI på egen hand, snarare än att vänta på lagstiftare. En samlad branschgrupp med tunga namn ger dessutom tyngd i framtida kontakter med beslutsfattare i Washington — det är inte välgörenhet, det är strategisk positionering.

Frågan är om självreglering räcker. Vi har sett vad som händer när stora plattformar sätter egna normer utan tillräcklig extern granskning.

Förtroendet är en tickande tidsinställd bomb

Samtidigt förändras det samhälleliga klimatet i en riktning som borde oroar alla som arbetar med ansvarsfull AI-utveckling. En stor internationell undersökning från Collective Intelligence Project, genomförd med mer än 6 000 deltagare i 70 länder, visar att 58 procent av befolkningen litar mer på AI-chattbotar än på sina valda politiker. Nästan hälften uppger att de föredrar AI-stödd beslutshjälp i lokala samhällsfrågor.

Det är en demokratisk paradox av rang. Ju mer förtroendet för institutioner urholkas, desto mer makt tillfaller de system vars ägare sitter i slutna möten och förhandlar om sina egna regelverk — utan offentlig insyn.

Professor Jeff Sebo vid New York University formulerar risken träffande: chattbotar kan verka neutrala och objektiva, även när svaren speglar en ifrågasättbar ståndpunkt. Det är inte transparens — det är en välpolerad fasad.