Osynlig vattenstämpel avslöjade fejkat sjukhusfoto – men kampen mot AI-lögner är långt ifrån vunnen

När ett foto kan starta ett rykte

Den 83-årige Kentucky-senatorn Mitch McConnell har inte synts mycket i offentligheten sedan han lades in på sjukhus efter ett akutlarm den 14 juni. Det är precis det klimat där desinformation trivs som bäst – osäkerhet, frånvaro och ett enormt informationsbegär hos allmänheten.

Någon utnyttjade det tillfället. Ett AI-genererat foto som föreställde McConnell uppkopplad till slangar i en sjukhussäng började spridas på Reddit och X. Bilden såg trovärdig ut. Den spreds snabbt. Och den skapade, precis som avsett, stor oro.

Men den här gången gick det att avslöja bluffen.

SynthID: det osynliga märket som avslöjar AI

Enligt TechCrunch kunde faktakontrollsajten Snopes på onsdagen fastslå att fotot var fabricerat – och nyckeln var Googles vattenstämpelteknik SynthID, som lanserades vid utvecklarkonferensen Google I/O år 2025.

Tekniken fungerar genom att bädda in en osynlig signatur direkt i bildens bildpunkter. Märket syns inte för det mänskliga ögat, men kan läsas av SynthIDs algoritmer. Det som gör tekniken särskilt robust är att vattenstämpeln överlever även när en bild skärmdumpas och delas vidare i flera led – vilket är exakt vad som skedde i det här fallet.

Som systemutvecklare tycker jag det är elegant. Att dölja autentiseringsinformation i själva bilddata, snarare än i metadata som är trivialt att radera, är ett genomtänkt designval. Det löser ett verkligt problem: att bevis på AI-ursprung ska följa med bilden oavsett hur den hanteras.

En viktig seger – med tydliga begränsningar

Det vore lätt att fira det här som ett genombrott. Men det vore att göra det för enkelt för sig.

SynthIDs avgörande svaghet är att systemet enbart fungerar för innehåll som faktiskt genererats med verktyg som implementerat tekniken. En bild skapad i ett annat AI-verktyg – eller av en aktör som medvetet väljer bort märkning – bär inget sådant spår. Tekniken är ett lås, men bara på en av många dörrar.

Det leder oss till en bredare och mer principiell fråga: vem ansvarar egentligen för att AI-genererat innehåll märks?

Samtycke och ansvar: en olöst ekvation

Parallellt med SynthID-historien rapporterar The Hollywood Reporter om en helt annan typ av kontroll-problematik. Meta har lanserat AI-verktygen Muse Photo och Muse Video, som låter användare skapa nytt bild- och videoinnehåll baserat på offentliga Instagram-profiler. Systemet är utformat med avanmälningslogik – alla offentliga profiler ingår automatiskt, om man inte aktivt väljer bort det.

Det stora talangbolaget CAA reagerade omgående och kräver att Meta vänder på logiken till ett anmälningssystem, där aktivt samtycke krävs. Argumentet är enkelt men tungt: ingen persons namn, utseende eller röst ska kunna användas av tredje part utan dokumenterat godkännande.

Detta är inte en isolerad händelse. OpenAI tvingades tidigare göra om sin videotjänst Sora efter liknande kritik. Mönstret är detsamma: ett verktyg lanseras med maximal räckvidd som grundinställning, och kritiken kommer efteråt.

De två nyheterna hänger ihop på ett viktigt sätt. SynthID visar att vi kan bygga tekniska verktyg för spårbarhet och äkthet. Metas Muse-kontroversen visar att vi ännu inte kommit överens om vem som ska använda dem, och på vems villkor. Tekniken springer före de etiska och juridiska ramverken – och det är i det glappet som desinformation och otillåten användning trivs.

Vad händer nu?

McConnell-incidenten är ett lysande exempel på hur snabbt en AI-fabricerad bild kan skapa verklig oro kring verkliga händelser. Och den visar att verktygen för att bekämpa det börjar mogna.

Men ett avslöjat deepfake är inte en lösning – det är ett undantag. För varje bild som bär ett SynthID-märke finns hundratals andra som inte gör det. Den verkliga utmaningen är inte teknisk. Det är att skapa ett ekosystem där märkning, samtycke och ansvarighet är inbyggda förutsättningar, inte efterhandskonstruktioner.