Ryska och iranska nätverk använder AI för att plantera falsk journalistik i etablerade medier

När desinformationen klär sig i pressjacka

Vi har länge vant oss vid bilden av desinformation som lösryckta påståenden på sociala medier — trollfabriker som pumpar ut rubriker i tomma ekokammare. Men det bilden stämmer inte längre. Enligt en ny rapport från OpenAI har ryska och iranska aktörer tagit steget upp i trovärdighetskedjan och börjat plantera fabricerat innehåll direkt i legitima nyhetsmedier. Det är en avgörande förändring som bör väcka uppmärksamhet långt utanför cybersäkerhetsbranschen.

OpenAI har stängt av ett antal ChatGPT-konton kopplade till två separata påverkansoperationer. Det som skiljer dessa från tidigare avslöjanden är inte bara tekniken — det är strategin.

Den ryska operationen: En fiktiv tankesmedja som skakar Latinamerika

Den ryska operationen, med kodnamnet "Dark Clark", var ett sofistikerat försök att destabilisera den politiska situationen i Latinamerika och samtidigt misskreditera Ukraina. Bakom operationen dolde sig en påhittad tankesmedja, styrd av en fiktiv person, med lokala medarbetare som verkar ha rekryterats utan att känna till det verkliga syftet.

Fabricerade ljudfiler och dokument spreds med sådan genomslagskraft att de utlöste faktakontroller och officiella dementeringar från myndigheter i Ecuador och Peru. OpenAI placerar operationen på kategori 5 av 6 på den så kallade Breakout Scale — en allvarlighetsskala för påverkansoperationer — just eftersom innehållet fick förtroendevalda politiker att reagera offentligt. Det är det första fallet på denna nivå på över två och ett halvt år. Det är inte en statistisk kuriositet; det är ett trendbrott.

Den iranska operationen: Påhittade journalister med riktiga publiceringar

Den iranska operationen, kallad "Bogus Bylines", tog en annan men lika effektiv väg. Sju påhittade journalistidentiteter användes för att publicera nästan hundra artiklar om relationen mellan USA och Iran i nätbaserade medier världen över. Artiklarna bar falska namn, men de publicerades i verkliga redaktionella miljöer — vilket gav dem en trovärdighetsstämpel som inga sociala medieinlägg kan matcha.

Det är här det verkliga skiftet sker. När desinformationen bär en pressbyrå-URL och en redaktörs godkännande, förändras mottagarens kritiska filter fundamentalt.

AI som vapen — och som sköld

Det är lätt att fastna i ett dystopiskt narrativ här, men jag vill nyansera bilden. Det faktum att OpenAI själva identifierade och stängde av dessa konton är inte ett tecken på att AI-systemen är okontrollerbara — det är tvärtom ett bevis på att ansvarsfull AI-utveckling fungerar. Utan de spårnings- och granskningsmekanismer som OpenAI byggt in i sina system hade vi sannolikt aldrig fått veta om dessa operationer.

Detta är AI som sköld, inte bara som vapen. Och den distinktionen är central.

Samtidigt vore det naivt att blunda för implikationerna. AI sänker trösklarna dramatiskt — för att skapa övertygande text, trovärdiga röster, falska identiteter och skalade påverkansoperationer. Det som tidigare krävde stora resurser och specialistkompetens kan nu genomföras snabbare, billigare och med större precision.

Vad medierna måste göra nu

Den verkliga väckarklockan i OpenAI:s rapport är inte att stater använder AI för desinformation — det har vi förväntat oss länge. Det som är nytt och allvarligt är att redaktionella kvalitetskontroller har visat sig otillräckliga mot påhittade men välkonstruerade journalistidentiteter.

Medier behöver nu investera i robusta verifieringsprocesser för frilansbidrag och externa skribenter. Identitetsverifiering, källkontroll och redaktionell granskning måste höjas till en ny nivå — inte som en byråkratisk procedur, utan som en kärnkompetens i det demokratiska informationsekosystemet.

Detta är en branschomvandling som kräver mod, resurser och samarbete mellan teknikföretag, medier och myndigheter. Men möjligheten finns: vi har aldrig haft bättre verktyg för att både avslöja och motverka desinformation — om vi väljer att använda dem klokt.