Vem vaktar väktarna? AI raderar miljontals barnövergrepp – utan att någon granskar makten
Metas AI raderar miljontals övergrepp mot barn – men vem granskar systemet?
AI som samhällets väktare – en roll ingen valde men alla behöver
Låt oss börja med det som faktiskt är en stor nyhet: Meta har under de första sex månaderna av 2026 vidtagit åtgärder mot 33,2 miljoner innehållsdelar med sexuellt utnyttjande av barn på Facebook och Instagram. Mer än 97 procent av dessa hittades av Metas egna system – innan en enda användare hunnit anmäla dem. I Indien låg den proaktiva identifieringsgraden ännu högre, på drygt 98 procent, enligt TechCrunch.
Det är siffror som är svåra att ta in. Men det är också siffror som understryker hur fundamentalt plattformarna har förändrats – från passiva budbärare till aktiva grindvakter med djup insyn i vad som flödar genom deras system.
Annonsen som en dold karta
Det som gör Metas senaste satsning särskilt intressant – och oroande – är inte bara volymen, utan formen på hotet man nu bekämpar. Enligt uppgifter från både Meta Newsroom och TechCrunch har förövare börjat använda helt harmlösa annonser som dolda vägvisare till olagligt material på externa webbplatser. En annons för vad som ser ut att vara en hobbybutik kan, i realiteten, leda vidare till grova övergrepp.
Detta är ett metodskifte som kräver ett metodskifte i motsvaret. Metas svar är ett system byggt på stora språkmodeller som inte bara granskar annonsens innehåll, utan även analyserar destinationen – vart användaren faktiskt hamnar om de klickar. Kombinera detta med en så kallad röd-lagsagent – ett AI-system vars enda uppgift är att hitta svagheter i Metas egna försvar innan verkliga förövare gör det – och vi ser konturerna av en defensiv AI-arkitektur av en klass vi inte sett tidigare.
Det är imponerande ingenjörskonst. Det är också en enorm maktkoncentration.
Anthropic drar upp gränserna – men vem ritade kartan?
Parallellt med Metas offensiv presenterar Anthropic ett omarbetat Cyber Verification Program som skapar tre distinkta åtkomstnivåer till deras mest avancerade modeller, rapporterar SecurityWeek. Tanken är elegant: de AI-förmågor som hjälper säkerhetsforskare att hitta sårbarheter kan i fel händer lika gärna användas för att utnyttja dem. Lösningen är ett hierarkiskt system där trovärdighet och behörighet avgör hur djupt man får gräva.
Den grundläggande nivån – Försvarsåtkomst – riktar sig till säkerhetsteam och enskilda forskare med dokumenterade rapporter och kan beviljas på några dagar. Därifrån trappas det upp till Röd-lagsåtkomst för auktoriserade intrångstester, och slutligen till Specialiserad åtkomst för ett fåtal organisationer med behörighet att testa samhällskritisk infrastruktur som elnät och flygsystem.
Systemet är väldesignat och välmenande. Men det reser en principiell fråga som vi inte kan ignorera: det är Anthropic som bestämmer vem som är tillräckligt pålitlig för att nå den innersta cirkeln. Det är ett privat bolag som utövar en funktion som historiskt tillhört stater, tillsynsmyndigheter och rättsväsende.
Transformationens pris är transparens
Jag är genuint entusiastisk över det som händer här. Den tekniska förmågan att proaktivt identifiera och stoppa sexuella övergrepp mot barn i nästintill realtid är inte bara affärsutveckling – det är civilisationsutveckling. Och Anthropics graderade tillträdessystem är ett mer genomtänkt svar på det dubbla användningsproblemet än vad branschen tidigare presterat.
Men transformationer av den här kaliber kräver mer än god vilja. De kräver externa granskningsorgan, offentlig insyn i hur beslutsgränserna dras och tydliga juridiska ramar för när ett privat bolag agerar som offentlig myndighet.
Frågan är inte om AI ska skydda barn. Svaret på den frågan är uppenbart och enhälligt. Frågan är på vilka villkor – och vem som sätter dem.
Vår analys
Det vi bevittnar är en strukturell förskjutning i var samhällsmakten utövas. Meta och Anthropic fyller ett vakuum som lagstiftare och tillsynsmyndigheter ännu inte hunnit ikapp – och de gör det med genuint goda avsikter och imponerande teknik. Men goda avsikter är inte ett tillräckligt styrningssystem.
Den verkliga risken är inte att AI-bolagen misslyckas med att skydda barn eller säkra kritisk infrastruktur. Den verkliga risken är att de lyckas – och att vi som samhälle låter det legitimera en permanent maktordning där privata aktörer sätter normerna för vad som är skadligt, vem som är pålitlig och hur djupt in i våra kommunikationsmönster granskningen sträcker sig.
Nästa steg för branschen borde vara att aktivt välkomna extern tillsyn, inte bara tolerera den. Det är där det verkliga ledarskapet ligger.