AI-texterna får osynliga stämplar – men märkningen är inte tillförlitlig nog

Europa agerar – och marknaden svarar

Det händer nu. EU:s AI-förordning är inte längre ett abstrat regeldokument som cirkulerar i Bryssel – den börjar ge verkliga, mätbara konsekvenser för hur vi bygger, distribuerar och använder AI-system. Den 2 augusti trädde insynskraven i kraft, och inom några veckor rullar OpenAI ut sin teknik textGrain till samtliga ChatGPT- och Codex-användare inom unionen.

Enligt TechCrunch handlar det om osynliga vattenstämplar – inte ett synligt märke, utan en subtil påverkan på modellens ordval som skapar ett statistiskt mönster. Mönstret är osynligt för den mänskliga läsaren men identifierbart för ett automatiserat granskningssystem. Det smarta med metoden är att mönstret följer med texten även om den kopieras och klistras in på andra ställen.

Det är ett elegant tekniskt svar på ett legitimt samhällsbehov: vi behöver kunna skilja mänskligt skriven text från maskingenererad. Möjligheterna är enorma – tänk på hur det stärker integriteten i journalistik, akademi, juridik och offentlig förvaltning.

Tekniken är lovande – men inte felfri

Låt oss vara ärliga: textGrain är ett steg i rätt riktning, men ingen silverkula. OpenAI:s egna tester visar att träffsäkerheten sjunker från ungefär 92 till 66 procent om bara tio procent av orden ersätts med synonymer. Korta texter, matematiska svar och översatt innehåll är ännu svårare att märka tillförlitligt.

Det är inte ett skäl att avfärda tekniken – det är ett skäl att fortsätta utveckla den. Alla genombrott börjar någonstans, och det faktum att EU nu lagstiftar om märkning skapar ett kraftfullt incitament för hela branschen att lösa de tekniska utmaningarna. Det är precis hur regleringar fungerar som bäst: de pekar ut riktningen och låter marknaden hitta vägarna dit.

Noterbart är också att OpenAI väljer att begränsa utrullningen till EU och inte göra vattenstämplingen till en global standard – åtminstone inte ännu. Det berättar något viktigt om hur europeisk lagstiftning fungerar som global normsättare: EU tvingar fram innovation som sedan sprider sig utanför unionens gränser.

När AI-verktygen vänds mot öppen källkod

Men EU:s AI-förordning och vattenstämplar är bara en del av bilden. Parallellt ser vi en annan, mer oroande konsekvens av AI:s ökande förmåga – en som drabbar den öppna källkodsmiljön hårt.

Google meddelade den 1 oktober att man pausar inrapportering av produktsårbarheter i sitt Open Source Software Vulnerability Reward Program. Orsaken, enligt Google självt: en markant ökning av automatiserade rapporter där den överväldigande majoriteten saknar giltighet. Säkerhetsforskare hänvisas tills vidare till andra kanaler, och programmet utvärderas inför en eventuell återstart under första kvartalet 2027.

Detta är inte ett isolerat fenomen. Rapporterar SecurityWeek korrekt – och det gör de – är detta del av ett bredare mönster. Google har redan tidigare anpassat sina belöningsprogram för Chrome och Android som svar på att AI-verktyg alltmer används för att automatiserat leta efter säkerhetshål. För Android höjdes toppbelöningen för de allra svåraste sårbarheterna – de som är för komplexa för automatiserade verktyg att hitta – från en miljon till 1,5 miljoner dollar.

Det är en tydlig signal: AI demokratiserar verktyg för sårbarhetssökning, vilket är fantastiskt i teorin men skapar ett brus-problem i praktiken. När alla kan använda AI för att skicka in rapporter automatiserat drunknar de genuint värdefulla rapporterna i mängden.

Öppen källkod i korseld

Den öppna källkodsmiljön är en av mänsklighetens mest värdefulla gemensamma tillgångar – och den är nu under press från två håll. Dels från AI-genererat brus som riskerar att urholka sårbarhetsprogram. Dels från en regleringsvåg som ställer höga krav på transparens och spårbarhet som är svårare att uppfylla för öppna projekt utan stora juridikavdelningar i ryggen.

Det är en spänning som EU:s lagstiftare behöver ta på allvar. Reglering som skyddar medborgarna men oavsiktligt försvagar den öppna källkodsinfrastrukturen som hela det digitala samhället vilar på är ingen bra affär – varken för Europa eller för resten av världen.