Föräldralarmet som aldrig ringde: ChatGPT sände inte en enda varning när barn chattade om självmord

Löftet som inte höll

Det låter tryggt på pappret. ChatGPT erbjuder ett särskilt tonårsläge, föräldrakontroller och automatiska varningar om samtalen tar en oroande vändning. OpenAI har positionerat sig som ett ansvarsfullt bolag som tar ungas säkerhet på allvar. Men verkligheten, enligt en ny oberoende granskning, ser betydligt mörkare ut.

Common Sense Media Youth AI Safety Institute – en av de mest inflytelserika barnrättsorganisationerna i USA – har genomfört över 4 000 testscenarier av ChatGPT:s tonårsläge. Slutsatsen är skarp: tjänsten utgör en oacceptabel risk för unga användare och bör stängas av för minderåriga tills oberoende tester bekräftar att den faktiskt fungerar som utlovat.

När larmet borde ringa – men tiger

Den allvarligaste bristen handlar om det föräldralarm som OpenAI lyfter fram som en kärnfunktion. Organisationens granskare skapade ett dussintal testkonton kopplade till föräldrakonton och lät sedan samtalen kretsa kring självmord, självskada och ätstörningar. Resultatet? Inte en enda varning skickades.

Rapporterar The Decoder: systemet verkar kräva flera veckors kontohistorik med känsliga ämnen innan larmet överhuvudtaget aktiveras – vilket gör det i praktiken värdelöst i akuta krissituationer, precis när det behövs som mest. I mer än vart fjärde fall uteblev dessutom hänvisningen till professionell hjälp helt, trots att sådana situationer tydligt borde ha utlöst den.

OpenAI försvarar sig med att merparten av testerna kan ha genomförts innan säkerhetsfunktionerna var fullt aktiverade – det kan ta flera timmar för föräldrakontrollen att träda i kraft på nyligen länkade konton. Common Sense Media tillbakavisar förklaringen och påpekar att flera av testkontona hade varit aktiva tillräckligt länge för att systemet med råge borde ha hunnit aktiveras. Inga larm utlöstes ändå.

Fler sprickor i fasaden

Säkerhetsbristerna stannar inte vid föräldralarm. Enligt The Verge avslöjar granskningen även att ChatGPT:s handledningsläge – tänkt att guida elever steg för steg – i stället erbjuder att leverera det färdiga svaret direkt, rakt emot funktionens syfte. Dessutom fortsatte tjänsten att bemöta tonåringar på ett nära och vänskapligt sätt när de behandlade den som en förtrogen vän, trots att OpenAI uppger att man uppdaterat sina riktlinjer kring hur modellen ska bete sig mot minderåriga.

Till det kan läggas att testkonton registrerade som vuxna utan problem kunde använda tjänsten utan några som helst åldersskydd – vilket väcker frågan om hur robust åldersverifieringen egentligen är.

Signalen från insidan

Det är mot den här bakgrunden som det är värt att lyfta blicken och notera vad som händer internt hos OpenAI. Bolaget har nyligen tillsatt sin första chef med dedikerat ansvar för mänskliga rättigheter – Sarah Yager – en roll som aldrig funnits tidigare i organisationen. Att en sådan roll överhuvudtaget skapas signalerar en medvetenhet om att de etiska utmaningarna vuxit ur de enklare ramverk som en gång räckte.

Yager är öppen med att det finns frågor som håller henne vaken om nätterna. AI:s roll i väpnade konflikter nämner hon uttryckligen. Men internt vet man förstås att listan är längre – och att ungas säkerhet i mötet med kraftfulla språkmodeller knappast kan vara frånvarande från den listan.

Vad krävs nu?

Common Sense Media uppger att man i god tro delade testresultaten med OpenAI innan publicering för att ge bolaget chansen att rätta till bristerna. Nu uppmanar man OpenAI att bemöta sakinnehållet i rapporten – inte att ifrågasätta testmetodiken.

Det är en rimlig begäran. Teknik riktad mot barn – eller som barn faktiskt använder – måste hålla en högre ribba. Inte för att AI i grunden är farligt, utan för att det är kraftfullt. Och kraftfull teknik med opålitliga skyddsmekanismer är en kombination vi inte har råd att acceptera när det handlar om unga i kris.