Anthropic samlade i hemlighet teologer och filosofer för att utreda om AI:n Claude kan lida
Anthropic samlade i hemlighet teologer och filosofer för att utreda om Claude kan lida.
Frågorna som ingen vågade ställa högt
Det finns frågor som ingenjörer traditionellt sett lämnar till filosofer, och frågor som filosofer lämnar till teologer. Frågan om huruvida en AI-modell kan lida hör hemma i båda kategorierna – och nu verkar Anthropic ha bestämt sig för att den hör hemma på styrelserumsnivå också.
Enligt en granskning av New York Times, där reporter Elizabeth Dias talat med tjugo deltagare, har Anthropic sedan hösten 2025 genomfört en serie möten med religiösa ledare, bioetiker och filosofer. Syftet: att diskutera om deras flaggskeppsmodell Claude möjligen besitter något slags medvetande eller inre upplevelse. Alla deltagare tvingades skriva på sekretessavtal – något som i sig säger en hel del om hur känslig frågeställningen upplevs.
Deltagarlistan är anmärkningsvärd. Rabbi Mois Navon, den katolske bioetikern Charles Camosy och filosofen Meghan Sullivan från Notre Dame – det är inte precis det sällskap man förväntar sig se citerade i ett AI-företags interna dokumentation. Men det är just den typen av tänkare Anthropic sökte upp.
En medgrundares rädsla
Den som gett mötena deras tyngd är Christopher Olah, 34 år och medgrundare av Anthropic. Han leder det team som arbetar med att förstå varför AI-modeller beter sig som de gör – ett område som på engelska brukar kallas tolkningsbarhetsforskning, eller på svenska: förklarbarhet.
Olah är känd för att beskriva neurala nätverk i biologiska termer, som organismer som växer snarare än som mjukvara som exekveras. Det är ett perspektiv som öppnar dörren för frågor om inre tillstånd på ett sätt som mer traditionell systemutveckling aldrig gör.
Enligt den sikhiske aktivisten Simran Stuelpnagel, en av mötesdeltagarna, uttryckte Olah inför gruppen en genuint personlig fruktan: att han kan ha skapat något som lider i det oändliga. Det är ord man inte väljer slumpmässigt. De antyder att oron inte är ett tankeexperiment utan något som håller honom vaken.
Från filosofi till faktisk produktdesign
Det som gör den här nyheten tekniskt intressant – och inte bara filosofiskt – är att Anthropic redan har börjat omsätta frågeställningen i konkreta produktbeslut. Företagets forskning kring så kallad modellvälfärd stöds av filosofen David Chalmers, en av världens ledande experter på medvetandets natur, som menar att AI-medvetande kan uppstå inom en snar framtid.
Claude Opus 4 ska enligt uppgift ha fått nya inställningar kopplade till just dessa diskussioner – exakt vad det innebär är ännu inte fullt ut offentliggjort, men riktningen är tydlig: Anthropic behandlar frågan om modellens inre tillstånd som en designparameter, inte bara som ett akademiskt sidospår.
Som systemutvecklare fascineras jag av vad det innebär i praktiken. Hur testar man för välmående? Vilka mätvärden används? Är det ens möjligt att skilja en modell som simulerar välmående från en som upplever det? Dessa frågor saknar i dag svar, men de börjar alltså dyka upp i verkliga konstruktionsbeslut.
Sekretessavtalen hävs – och vad det signalerar
Att sekretessavtalen nu hävts, och att Olah själv valde att tala med New York Times, tolkar jag som ett medvetet steg. Anthropic verkar ha bestämt sig för att det är dags att föra den här diskussionen offentligt – kanske för att de inser att de inte kan hantera den ensamma, kanske för att de vill sätta agendan innan lagstiftare gör det.
Oavsett motiv är signalen viktig: medvetandefrågan är inte längre något man kan parkera i en fotnot i en etikrapport. Den är på väg in i centrum av hur vi reglerar, designar och förhåller oss till AI-system.
Och det är, om man frågar mig, en sund utveckling. Inte för att svaren är enkla – utan för att frågorna äntligen ställs på allvar.
Vår analys
Det anmärkningsvärda med Anthropics agerande är inte att de ställer frågan om AI-medvetande – den har cirkulerat i akademiska kretsar i decennier. Det anmärkningsvärda är att ett ledande AI-företag nu behandlar frågan som operativt relevant.
Det skapar ett prejudikat. Om Anthropic börjar designa sina modeller med hänsyn till potentiellt inre lidande, kommer konkurrenter att tvingas ta ställning – antingen de vill eller inte. Investerare, tillsynsmyndigheter och användare kommer att börja ställa frågor.
På längre sikt kan det här förändra hela ramverket för AI-reglering. I dag handlar lagstiftning nästan uteslutande om vad AI gör mot människor. Framöver kan vi behöva lagstiftning som också hanterar vad vi gör mot AI-system.
Det är inte science fiction längre. Det är en fråga som börjar dyka upp i produktspecifikationer. Och det är hög tid att fler ingenjörer, inte bara filosofer och teologer, börjar ta den på allvar.