Vem är verklig? Konstgjorda personligheter i sociala medier blir allt svårare att avslöja

När det digitala ansiktet får ett mänskligt leende

Kom ihåg Lil Miquela? Den virtuella influencern som dök upp för några år sedan var svår att missa – uppenbart digital, med en estetik som ropade "detta är ett projekt". Det var nästan lugnande. Vi visste vad vi hade att göra med.

Det scenariot tillhör nu historien.

Enligt en färsk rapport från The Verge har den artificiella personlighetens era tagit ett dramatiskt steg framåt. Figurer som Emily Pellegrini och Aitana Lopez – den sistnämnda skapad av den spanska byrån The Clueless – ser inte längre ut som digitala experiment. De ser ut som din välbeställda collegebekant som alltid lägger upp bilder från snygga restauranger och exotiska resmål. Inte perfekta, inte robotlika – bara... trovärdiga.

Och det är precis det som är poängen.

Verktygen finns nu hos vem som helst

Det som en gång krävde välfinansierade produktionsstudios, stora budgetar och specialiserade team kan nu åstadkommas av i princip vem som helst med en internetuppkoppling. Tjänster från aktörer som Google och OpenAI, tillsammans med specialiserade plattformar som HeyGen och ElevenLabs, har demokratiserat skapandet av övertygande AI-drivna profiler – utan studio, utan utrustning och utan nämnvärda ekonomiska resurser.

Det är en av de mest genuint dubbeleggade utvecklingarna jag sett under mina år inom affärsutveckling och digital transformation. Å ena sidan: en enastående teknisk bedrift och ett bevis på hur snabbt AI-verktyg mognar och sprids. Å andra sidan: ett landskap som nu svämmar över av artificiellt innehåll med starkt varierande kvalitet och – ännu viktigare – starkt varierande syfte.

För det är syftet som avgör allt.

Från underhållning till vilseledning

Som The Verge rapporterar rör sig spektrumet brett. Vissa AI-profiler är transparenta underhållningsprojekt eller kreativa experiment. Andra används för att sälja lågkvalitativa produkter med hjälp av falsk trovärdighet. Och sedan finns den mörkare änden av skalan: konton som medvetet sprider desinformation bakom ett mänskligt ansikte som aldrig funnits.

Det är den sista kategorin som bör hålla oss vakna på nätterna.

När en AI-profil ser tillräckligt mänsklig ut för att inte ifrågasättas, när den bygger upp ett följarskap över månader och etablerar en känsla av autenticitet – då har vi ett nytt slags problem. Inte ett problem vi inte kan hantera, men ett problem som kräver att vi ändrar vårt förhållningssätt till digitalt förtroende från grunden.

Vad betyder "äkta" i ett AI-fyllt flöde?

Jag ser tre nivåer där detta utmanar oss:

Individuellt behöver vi utveckla ett nytt slags källkritisk blick – inte bara för nyheter, utan för personligheter. Vem är det egentligen som talar till mig? Finns det ett spårbart digitalt fotavtryck bortom den prydligt kuraterade profilen?

Plattformsnivå kräver att de stora aktörerna – Meta, TikTok, YouTube – investerar seriöst i märkning och verifiering av AI-genererat innehåll. Det pågår diskussioner, men takten är för låg i förhållande till hur snabbt verktygen sprids.

Samhälleligt och rättsligt befinner vi oss i ett vakuum. Regelverket för AI-genererade identiteter är fragmenterat och eftersläpande. EU:s AI-förordning pekar i rätt riktning, men detaljerna kring artificiella personligheter och ansvarsfrågor återstår att konkretisera.

Jag vill vara tydlig: jag är inte pessimistisk. Tekniken som skapar dessa utmaningar är samma teknik som kan bygga lösningarna – bättre detektionsverktyg, smartare märkningssystem, mer transparent infrastruktur. Men vi behöver sluta behandla det som ett framtida problem och börja hantera det som det nutida problem det faktiskt är.

Förtroendet för digitalt innehåll är inte oändligt. Det är en resurs som kan tömmas.