Barnet som förlorade sin robotvän över en natt – och frågorna branschen inte vill svara på

En robot som lärde barn andas

Tioårige Xander, som är neurodivergent, tillbringade sex år av sitt liv med att öva andningstekniker tillsammans med sin robot Moxie. De susade som bin när ångesten slog till. De andades som drakar när vreden tog överhanden. Det var inte lek – det var terapi, inbyggd i vardagen, tillgänglig hemma utan väntetid på en klinik.

Sedan slutade Moxie att fungera.

Enligt MIT Technology Review är Xanders historia långt ifrån unik. Den beskriver ett systemfel i en hel bransch som lovar mer än den kan hålla – och som gör det på bekostnad av de mest sårbara användarna.

Forskningen är verklig – affärsmodellen är skör

Låt oss vara tydliga: det finns gedigen forskning bakom konceptet sociala robotar i vård och stöd för neurodivergenta barn. Brian Scassellati, datavetare vid Yale, har i decennier studerat fältet och har sett slående resultat. I ett tidigt experiment observerade han en tolvåring med autism som uppmuntrade en robotdinosaurie att korsa en bäck på en lekmatta – och under de trettio minuterna gjorde pojken mer ögonkontakt med sin terapeut än han gjort under de senaste två åren. En studie från 2018 visade att sociala robotar hjälpte barn med autism att ta initiativ till samtal och förbättra ögonkontakten.

Scassellati är övertygad om att regelbunden robotstödd terapi i hemmet är något vi kan uppnå inom vår livstid. Och jag delar den övertygelsen – potentialen är enorm.

Men potential och hållbar verksamhet är två helt olika saker. Moxies fall påminner oss om att en lovande produkt kan ha en affärsmodell som inte bär sig. När kapitalet tar slut eller prioriteringarna förskjuts hos ett techbolag är det inte investerarna som drabbas hårdast – det är ett tioårigt barn som en dag vaknar upp och inser att deras dagliga stödperson är borta för alltid.

Det etiska ansvaret som ingen vill äga

Det här är inte ett argument mot tekniken. Det är ett argument för ansvar.

När vi pratar om AI-verktyg för vuxna i arbetslivet handlar riskerna om effektivitet och konkurrenskraft. När vi pratar om AI-robotar för neurodivergenta barn handlar riskerna om psykologisk trygghet, tillit och utveckling under kritiska år. Det är en fundamentalt annorlunda etisk dimension – och den kräver fundamentalt annorlunda krav på aktörerna.

I dag finns det inga tydliga branschstandarder eller lagkrav som säkerställer att företag som marknadsför terapeutiska robotar till barn måste ha en trovärdig plan för vad som händer om produkten avvecklas. Ingen skyldighet att varsla i god tid. Ingen krav på att överlämna data eller minnen till familjen. Ingen reservplan för de barn som är mitt i en pågående stödprocess.

Detta är ett regulatoriskt vakuum som Sverige och EU behöver ta på djupaste allvar – särskilt i ljuset av att EU:s AI-förordning nu börjar träda i kraft stegvis.

Vägen framåt: löften måste matcha hållbarhet

Jag är genuint entusiastisk över vad sociala robotar och AI-stödd terapi kan åstadkomma för neurodivergenta barn och deras familjer. Möjligheten att få tillgång till individanpassat, konsekvent stöd i hemmet – utan att vara beroende av överfulla vårdsystem – är transformativ.

Men för att den transformationen ska bli verklig och rättvis krävs tre saker:

1. Transparens kring affärsmodell och livslängd. Föräldrar måste informeras om hur länge en produkt planeras stödjas och vad som händer om verksamheten upphör.

2. Reglering med barnets bästa i centrum. Terapeutiska AI-produkter för barn bör klassificeras som högriskprodukter under EU:s AI-förordning och kräva tydlig dokumentation och ansvarsplan.

3. Partnerskap med vårdsektorn. Produkter som Moxie bör inte existera isolerat utan vara integrerade i en bredare vårdkontext med mänskliga terapeuter som äger relationen – inte ett techbolag.

Moxies öde är en varning. Men det är också en karta. Om vi läser den rätt kan vi bygga något som faktiskt håller.