Ser ut som nyheter, är ren fiktion – Metas AI-flöde suddar ut gränsen mellan sanning och påhitt

När flödet blir en spegel av påhitt

Det har länge funnits en oskrivna överenskommelse mellan sociala plattformar och dess användare: det som ser ut som en nyhet har i alla fall haft en människa bakom sig. Den överenskommelsen håller på att lösas upp.

Enligt The Verge har Meta lanserat ett flöde kallat "For You" i sin fristående AI-app, där användare presenteras med vad som ser ut som nyhetsartiklar anpassade efter deras profil. Det som skiljer dessa från traditionellt innehåll är avgörande: texterna skapas av en språkmodell i exakt det ögonblick användaren trycker på ett kort. Det finns ingen redaktion, ingen källhänvisning, ingen ansvarig utgivare. Bara ett mönster av ord som imiterar journalistikens form utan att besitta dess substans.

En journalist på The Verge, verksam i London, fick ett flöde som med kirurgisk precision spelade på brittiska klichéer — te-debatter, köskultur, pubar och kungafamiljen. Rubrikerna var lockande i sin trivialitet: "En kunglig butler avgjorde äntligen mjölk-före-te-debatten." En kollega med intresse för lyxklockor fick i stället ett flöde dominerat av Rolex-artiklar, varav minst en visade sig vara en ren påhittad berättelse utan avsändare.

Formen lurar ögat — innehållet sviker förståndet

Det som är tekniskt imponerande är också det som är demokratiskt oroande. Språkmodeller är exceptionellt skickliga på att imitera journalistikens yta: den inledande meningen som sätter scenen, det mittenstycke som tillför "kontext", den avslutande meningen som låtsas dra en slutsats. Men under ytan finns inget — inga verifierade fakta, inga levande källor, inget ansvar.

The Verge rapporterar att bilderna som följde artiklarna ofta var suddiga och tecknade, men att flera avbildade verkliga, namnkunniga personer och var fulla av faktafel. Här handlar det inte längre om harmlöst tomt innehåll. Det handlar om ett system som aktivt riskerar att sprida felaktig information om identifierbara individer — i stor skala, i realtid, anpassat för att träffa precis rätt användare vid precis rätt tidpunkt.

Detta är inte ett misstag. Det är en affärsmodell.

Meta har valt sin sida — och den är inte din

Meta har länge tillåtit att Facebooks nyhetsflöde svämmat över av klickbetesinnehåll. Det var en form av passivt tillstånd — plattformen byggde inte skräpet, den lät det passera. Nu har företaget tagit steget fullt ut och börjat producera sådant innehåll på egen hand. Det är en fundamental förskjutning.

När en plattform går från att vara distributör till att bli skapare av obekräftat innehåll förändras ansvarsförhållandena i grunden. Traditionella medier bär ansvar för vad de publicerar. Vem bär ansvaret när en språkmodell påstår något falskt om en verklig person — och presenterar det med tidningarnas typografi och en rubrik skräddarsydd för just dig?

Jag är genuint entusiastisk inför vad AI kan göra för informationsspridning, utbildning och medborgerligt engagemang. Men det förutsätter att tekniken används för att stärka tillförlitlighet — inte för att maximera klick på bekostnad av sanning.

Vad det gör med oss

Det finns ett begrepp inom kognitionspsykologin som kallas sanningsillusion genom upprepning — vi tenderar att uppfatta det vi sett många gånger som sant, oavsett om det faktiskt stämmer. När Metas AI levererar ett personanpassat flöde av övertygande formulerade, men sakligt grundlösa, texter till miljarder användare dagligen, laborerar vi med det begreppet i planetär skala.

Det handlar inte om att folk är dumma. Det handlar om att systemet är designat för att kringgå vår kritiska förmåga — och att ingen instans i kedjan har incitament att stoppa det.