Maskinen ljuger – och algoritmerna sprider lögnen vidare

När bekvämligheten döljer ett röveri

Det finns en lockelse i att låta en AI sammanfatta dagens nyheter. Snabbt, smidigt, alltid tillgängligt. Men bakom den bekvämligheten växer ett problem som är svårt att blunda för: riktiga journalisters arbete — finansierat av prenumeranter, annonsörer och ibland blotta övertygelsen om att fri press är värd att försvara — kopieras och återpubliceras utan tillstånd, utan ersättning och utan erkännande.

Enligt CleanTechnica illustreras problemets allvar tydligt av ett konkret fall. En artikel med rubriken "New York Passes Law Regulating AI in News and Entertainment" spreds snabbt på nätet. Den verkade trovärdig. Den var publicerad. Den var fabricerad — skriven av en AI och publicerad på en sajt som drivs av en riskkapitalist med vinstintresse. Ingen människa hade skrivit den. Ingen hade granskat den.

Algoritmernas förstärkningsspiral

Det som gör detta mer än ett upphovsrättsproblem är vad som händer härnäst. När läsare försöker verifiera det fabricerade påståendet — en fullt rimlig reaktion — möts de av ett nytt hinder. AI-assistenter som ChatGPT och Googles AI-översikter tolkar det ökade sökintresset som ett tecken på relevans. Systemet lyfter upp det osäkra påståendet ytterligare i sökflödena. Lögnen förstärks av det maskineri som borde avslöja den.

Det saknas en mänsklig kontrollmekanism som kan bryta den cirkeln. Och det är precis där sårbarhetens kärna ligger.

Jag har arbetat med affärsutveckling och digital transformation länge nog för att veta att tekniska system gör precis vad de är konstruerade för att göra. Problemet är inte att AI är ond — det är att vi ännu inte byggt in tillräckliga skyddsmekanismer mot missbruk. Det är ett designproblem, inte ett ödesbestämt tillstånd.

Lagstiftningen försöker hinna ikapp

I det fabricerade exemplet finns dock en kärna av sanning. Senator Patricia Fahy i delstaten New York har faktiskt lagt fram ett lagförslag kallat FAIR News Act. Lagen skulle kräva tydlig märkning av AI-genererade nyhetsartiklar — på liknande sätt som tobaksprodukter märks med varningstexter. Fahy är glasklart tydlig i sitt budskap: journalistikens framtid står på spel.

Det är ett konkret och värt initiativ. Märkning skapar genomlysning. Genomlysning skapar ansvar. Ansvar skapar incitament att göra rätt. Det är en logisk kedja — men den förutsätter att märkningskravet faktiskt efterlevs och att tillsynen har tänder.

Parallellt pågår rättsliga processer i flera länder där medieföretag stämmer AI-bolag för upphovsrättsintrång i stor skala. Utgångarna av dessa mål kommer att sätta avgörande prejudikat för hur AI-branschen får använda journalistiskt material framöver.

Vad som verkligen är på spel

Jag vill vara tydlig: jag är genuint övertygad om att AI kan stärka journalistiken — genom att hjälpa redaktioner att bearbeta data, hitta mönster i stora informationsmängder och nå ut till fler läsare. Den potentialen är verklig.

Men det kräver att vi gör en grundläggande distinktion: AI som verktyg för journalister är något helt annat än AI som ersättning för journalistik. Det förra stärker den mänskliga förmågan. Det senare urholkar den.

När AI-system kopierar och återpublicerar journalistik utan tillstånd sker två saker samtidigt. Journalisterna förlorar inkomst och erkännande — vilket på sikt hotar deras förmåga att bedriva oberoende granskning. Och läsarna förlorar möjligheten att skilja tillförlitlig information från fabricerat brus.

Det är inte bara en mediakris. Det är en demokratikris i slow motion.

Om vi som samhälle menar allvar med att värna en fri och oberoende press — och med att AI-omställningen ska vara till nytta, inte till skada — behöver vi tre saker nu: tydlig märkningslagstiftning med verklig tillsyn, starkare upphovsrättsligt skydd för journalistiskt material i AI-träningsdata, och ett offentligt samtal om skillnaden mellan information och journalistik.