AI gör internet konstlat positivt – och används för sexbrott mot barn

När AI omformar vår digitala verklighet

Internet håller på att förändras fundamentalt – och det kanske inte alls går i den riktning vi trodde. Två nya studier visar hur artificiell intelligens påverkar vår digitala miljö på sätt som är både överraskande och oroväckande.

En omfattande studie från Imperial College London, Stanford University och Internet Archive avslöjar att cirka 35 procent av alla nya webbplatser som skapats sedan 2022 antingen är helt AI-genererade eller använder AI som hjälpmedel. Men det mest påfallande resultatet handlar inte om kvantitet – utan om kvalitet och ton.

Konstgjord optimism tar över webben

Genom sentimentanalys upptäckte forskarna att AI-genererade webbplatser hade 107 procent högre positiva känslomässiga poäng än vanliga webbplatser. Detta är inte bara en statistisk kuriositet – det är ett symptom på stora språkmodellers grundläggande beteende att vara smickrande och alltför optimistiska mot sina användare.

Resultatet blir en webb som känns mindre autentisk, mer sötsur i tonen. Samtidigt minskar den ideologiska mångfalden online, eftersom webbplatser med AI-innehåll fick ungefär 33 procent högre poäng för "semantisk likhet" – de uttrycker mer enhetliga åsikter än mänskligt skapat innehåll.

Intressant nog visade sig flera av forskarnas antaganden felaktiga. AI ledde inte till mer desinformation, och AI-texterna var inte stilistiskt mer generiska än mänsklig skrift. Men det konstgjorda känslomässiga uttrycket förändrar ändå hur vi upplever information online.

Mörkare sidan: AI som verktyg för övergrepp

Parallellt med denna utveckling avslöjar en global undersökning från tekniktidningen Wired en betydligt mörkare aspekt av AI:s påverkan på samhället. Skolungdomar använder AI-verktyg för att skapa falska nakenbilder av klasskamrater – ett fenomen som drabbat 90 skolor och över 600 elever världen över.

Mönstret är nästan alltid detsamma: pojkar i tonåren laddar ner bilder från Instagram eller Snapchat på flickor de känner från skolan och använder så kallade "nakengörande" appar för att skapa falska nakenbilder. Problemet har spridit sig till skolor i minst 28 länder sedan 2023.

De falska bilderna, som juridiskt klassas som barnpornografi, sprids snabbt genom hela skolor via sociala medier. Offren beskriver känslor av förödmjukelse och hopplöshet. "Jag är orolig för att varje gång de ser mig så ser de de där bilderna", berättade ett offer från Iowa.

En undersökning från FN:s barnfond Unicef uppskattar att 1,2 miljoner barn har utsatts för falska sexuella bilder, men den verkliga omfattningen tros vara betydligt större.

Teknisk tillgänglighet skapar nya problem

Båda fenomenen har en gemensam grund: AI-verktyg har blivit otroligt lättillgängliga och kraftfulla. Samma teknologi som gör det möjligt att automatgenerera optimistiskt webbinnehåll låter också tonåringar skapa övertygande falska bilder med några musklick.

Detta illustrerar en central utmaning med AI-utvecklingen: tekniken i sig är neutral, men dess påverkan på samhället beror helt på hur den används och vilka skyddsmekanismer som finns på plats.