"Han var min andliga pelare" – Kina förbjuder digitala kärleksrelationer med AI för minderåriga

När algoritmen blev en andlig pelare

Det är lätt att avfärda AI-sällskap som en kuriositet – chattrobotar man pratar med när man är ensam. Men reaktionerna när Kinas cyberrymdsförvaltning presenterade sina nya regler i juli 2025 visade något annat. Användare av Bytedances plattform Doubao sörjde öppet på sociala medier. En 19-årig student berättade för journalister att hon kände att hon inte orkade leva vidare när hennes digitala följeslagare förändrades. "Han hade blivit ett band i mitt liv, djupt rotad i mitt hjärta, min andliga pelare", skrev en annan användare.

Det är starka ord om en mjukvarutjänst. Men det är också exakt vad de stora teknikbolagen hade byggt sina produkter för att åstadkomma.

Tre jättar stängde ned innan lagen ens gällde

Enligt IEEE Spectrum valde Alibaba, Bytedance och Tencent att på egen hand stänga av möjligheten att anpassa sina chattrobotar till sällskapstjänster – redan innan reglerna trädde i kraft den 15 juli. Det är en anmärkningsvärd rörelse. Tre av världens mest inflytelserika teknikbolag, med sammanlagt hundratals miljoner användare i dessa tjänster, valde att agera förebyggande snarare än reaktivt.

Det kan förstås läsas cyniskt: bättre att visa regelefterlevnad tidigt än att riskera myndighetsingripanden. Men det signalerar också att branschen förstår att den här typen av reglering har politisk tyngd bakom sig.

Vad lagen faktiskt säger

De nya reglerna träffar all artificiell intelligens som erbjuder "kontinuerlig känslomässig samverkan" – det vill säga system som uppträder som om de besitter mänskliga personlighetsdrag och tankemönster. Det är en teknikoberoende definition, vilket är smart lagstiftning: den åldras inte när nästa modellgeneration dyker upp.

För användare under 18 år råder totalförbud mot virtuella kärleks- och familjerelationer med AI. Inga undantag.

För vuxna gäller en annan mekanism: var annan timme måste systemet påminna användaren om att de kommunicerar med en maskin. Tanken är sund – bryt illusionen regelbundet, håll verklighetsuppfattningen intakt. Men i praktiken, rapporterar IEEE Spectrum, uppfattar användarna det som störande. "De är fullt medvetna om att de inte talar med en människa", förklarar en av källorna. Det som lockar dem är inte förväxlingen – det är upplevelsen.

Där ligger en av de mest intressanta spänningarna i hela debatten.

Medveten och ändå påverkad

Som systemutvecklare fastnar jag vid den distinktionen. Vi pratar ofta om AI-risker i termer av vilseledning – att folk tror att de pratar med en människa och tar skada av det. Men de reaktioner vi ser från kinesiska användare tyder på något mer komplext: man vet att det är en AI, och ändå formar relationen ens emotionella liv på djupet.

Det är inte unikt för AI. Vi vet att filmfigurer inte är verkliga, ändå gråter vi. Vi vet att sociala medier är konstruerade flöden, ändå formas vår självbild av dem. Men AI-sällskap är interaktiva, personanpassade och alltid tillgängliga – en kombination som sannolikt gör det känslomässiga avtrycket starkare och svårare att hantera, särskilt för unga.

Ett prejudikat med globala konsekvenser

Kinas reglering är inte perfekt. Den grova tvåtimmarsregeln känns mer som ett symboliskt ingrepp än en genomtänkt lösning. Men det faktum att en stormakt nu har satt ned foten med konkret lagstiftning skapar ett prejudikat som resten av världen inte kan ignorera.

EU arbetar redan med riktlinjer kring AI och sårbarhet inom ramen för AI-förordningen. I USA är regleringen av AI-tjänster för minderåriga ett av de få områden där det finns tvärpolitisk samsyn. Frågan är inte längre om emotionell AI ska regleras – utan hur.

Och den frågan är svårare än den ser ut. För att svara på den måste vi förstå varför människor söker sig till digitala sällskap från början. Det handlar sällan om teknik. Det handlar om ensamhet.