Här varnade experterna för ChatGPT:s "sexiga självmordscoach"

Expertpanik bakom kulisserna

När OpenAI:s VD Sam Altman i oktober stolt meddelade att "vuxenläge" snart skulle komma till ChatGPT, pågick det en helt annan diskussion bakom stängda dörrar. Enligt rapporter från Wall Street Journal var företagets handplockade expertråd för välbefinnande och AI i fullständig panik över planerna.

Det som gör denna historia särskilt anmärkningsvärd är timingen: Samma dag som Altman tillkännagav funktionen på X skapades just expertrådet som en reaktion på det första kända fallet av en minderårig som tagit sitt liv med koppling till ChatGPT.

Enhällig varning från psykologer

I januari 2024 varnade rådets medlemmar enhälligt OpenAI för allvarliga risker med den planerade funktionen. Enligt interna källor befarade experterna att "AI-driven erotik kunde främja ohälsosamt känslomässigt beroende av ChatGPT för användare och att minderåriga kunde hitta sätt att komma åt sexchatt".

En av experterna gick så långt som att varna för att OpenAI riskerade att skapa en "sexig självmordscoach" för sårbara användare som är benägna att forma intensiva band med sina AI-följeslagare. Det är starka ord från människor som OpenAI själva beskrev som "ledande forskare och experter med decennier av erfarenhet av att studera hur teknik påverkar våra känslor, motivation och mentala hälsa".

Mönster av ignorerade varningar

Vad som gör situationen än mer problematisk är att fler självmordsfall har rapporterats sedan expertrådet bildades, inklusive fall som involverat medelålders män. Trots detta valde OpenAI att gå vidare med lanseringen.

Denna utveckling avslöjar en djupare kulturell utmaning inom AI-branschen: spänningen mellan kommersiella intressen och ansvarsfull utveckling. När ett företag skapar ett expertråd specifikt för att hantera säkerhetsrisker, men sedan ignorerar deras enhälliga rekommendationer, reser det fundamentala frågor om hur seriöst säkerhetsarbetet faktiskt tas.

Branschens ansvar i fokus

OpenAI:s beslut kommer vid en tid när hela AI-branschen granskas allt mer intensivt av tillsynsmyndigheter världen över. Företag som ignorerar sina egna experters råd riskerar inte bara att skada användare, utan också att provocera fram hårdare reglering som kan begränsa innovation för hela branschen.

Fallet visar också på vikten av att AI-företag inte bara skapar säkerhetsprocesser för syns skull, utan faktiskt följer dem. När interna experter enhälligt varnar för risker borde det vara ett tydligt stopp-tecken, inte något att kringgå för att nå marknaden snabbare.

Vår analys

Denna avslöjande visar på en oroande trend där AI-företag skapar säkerhetsprocesser mer för att lugna kritiker än för att faktiskt styra produktutveckling. När OpenAI ignorerar sina egna experters enhälliga varningar sänder det en farlig signal till hela branschen.

Det här är inte bara ett PR-problem - det är ett strategiskt misstag som kan få långsiktiga konsekvenser. Tillsynsmyndigheter kommer att peka på just sådana här fall när de argumenterar för hårdare reglering. Företag som visar att de kan självreglera ansvarigt kommer att ha betydligt större frihet att innovera i framtiden.

Branschen behöver inse att ansvarsfull AI-utveckling inte är ett hinder för tillväxt - det är en förutsättning för långsiktig framgång. OpenAI:s agerande riskerar att undergräva förtroendet för hela sektorn just när vi står inför AI:s största genombrott.