Miljarder användare får AI-märkning inbyggd i Chrome — men tekniken har fortfarande olösta brister

Från nischverktyg till global infrastruktur

Under lång tid har frågan om hur vi ska kunna identifiera AI-genererat innehåll levt ett ganska stilla liv bland tekniska experter och policymakers. Nu händer något annat. I samband med Googles utvecklarkonferens I/O, rapporterar The Verge, tillkännagavs en betydande utbyggnad av verktygen för AI-märkning — och skalans inverkan går inte att underskatta.

Googles egna SynthID — ett system som bäddar in osynliga vattenstämplar direkt i AI-genererade bilder, videor och ljudfiler — kommer nu att kunna verifieras direkt i webbläsaren Chrome och sökmotorn Google Search. Eftersom Chrome har en dominerande marknadsandel innebär det att tekniken för ursprungsverifiering plötsligt är tillgänglig för en stor del av världens internetanvändare utan att de behöver installera något extra.

Samtidigt lägger Google till stöd för C2PA, den öppna standarden för ursprungsdata som bäddas in i innehåll vid skapandetillfället och berättar hur materialet skapats eller redigerats. Det är en välkommen förändring — tidigare behövde användare navigera mellan olika tjänster beroende på vilken typ av märkning en fil råkade innehålla.

OpenAI kliver på tåget

Och Google är inte ensamma. OpenAI meddelar att de nu kommer att bädda in SynthID-märkning i bilder som skapas via ChatGPT, Codex och deras programmeringsgränssnitt. Företaget inkluderar redan C2PA-data i sitt genererade innehåll — men har tidigare varit öppet med att tekniken har tydliga begränsningar.

Den mest uppenbara: ursprungsdata tas ofta bort automatiskt när innehåll laddas upp till sociala plattformar. En bild skapad av en AI-modell kan alltså vara korrekt märkt när den lämnar verktyget — men helt avklädd sin historia redan efter ett enkelt Messenger-delande.

Det är en systemisk svaghet som varken SynthID eller C2PA löser på egen hand. Osynliga vattenstämplar kan dessutom försvagas eller förstöras av bildkomprimering, skärmdumpar eller enkel bildredigering. Märkningssystemen är bra — men de är inte robusta under fientliga förhållanden.

En infrastruktur som byggs medan den används

Som systemutvecklare fascineras jag av att vi i realtid ser hur en teknisk infrastruktur tar form för ett samhällsproblem som redan är akut. Det är sällan vi får följa den här processen så öppet.

Parallellen till webbens tidiga säkerhetsstandarder är träffande: HTTPS rullade ut långsamt, hade luckor i åratal, och krävde ett helt ekosystem av aktörer — webbläsare, servrar, certifikatsutfärdare — innan det verkligen fungerade i praktiken. AI-märkning befinner sig ungefär där nu. Grunden finns. Ekosystemet börjar samla sig. Men det är fortfarande ett system som byggs medan det används på allvar.

Den verkliga styrkan i Googles tillkännagivande är inte SynthID i sig — det är kombinationen av en dominerande webbläsare, en sökmotorintegration och stöd för en öppen standard. Det skapar ett enhetligt gränssnitt som tidigare saknats.

Vad som fortfarande saknas

Men låt oss vara tydliga om vad som inte lösts:

• Retroaktiv märkning — innehåll skapat innan systemen rullades ut bär ingen märkning, och mängden sådant material växer varje dag.
• Plattformsansvar — sociala medier och bildtjänster behöver aktivt bevara ursprungsdata, inte automatiskt strippa den.
• Motpartens anpassning — den som aktivt vill sprida desinformation anpassar sina metoder. Märkningssystem möter en motpart som inte är passiv.

Det här är inte skäl till pessimism — det är en kalibrerad bild av var vi faktiskt befinner oss. Infrastrukturen för märkning är verklig, den växer och den spelar roll. Men att presentera den som ett löst problem vore att göra läsaren en björntjänst.