AI-branschens egna erkänner: Vi är inte alltid redo att göra rätt sak

När Silicon Valley möter den heliga stolen

Det är inte varje vecka en AI-forskare från San Francisco står inför påven och en samling kyrkliga dignitärer för att diskutera teknikens framtid. Men det är precis vad som hände när Chris Olah, medgrundare till Anthropic, tog plats vid presentationen av encyklikan Magnifica humanitas – Om skyddet av den mänskliga personen i artificiell intelligens tid.

Ceremonin var ovanlig. Symboliken var omöjlig att missa.

Vatikanen – världens äldsta och i många avseenden mest beständiga institution – väljer att göra artificiell intelligens till föremål för sitt tyngsta verktyg för moralisk vägledning. Det är inte en presskonferens. Det är inte en policy-rapport. Det är en encyklika. Och det förändrar samtalets dignitet.

"AI-frågor är för viktiga för att lämnas till datavetare"

Olahs tal i Vatikanen var anmärkningsvärt öppet. Enligt Anthropics egen blogg erkände han rakt ut att hela AI-branschen – inklusive hans eget bolag – opererar inom ett system av incitament som inte alltid pekar mot det gemensamma bästa.

– Varje ledande AI-labb, inklusive Anthropic, verkar inom ett system av incitament och begränsningar som ibland kan stå i konflikt med att göra rätt sak, sade Olah. Trycket att förbli kommersiellt livskraftiga, ligga i forskningsframkant, geopolitiska påtryckningar – och de äldre, mer lättförståeliga drivkrafterna: stolthet och ärelystnad.

Det är sällan en branschledare väljer att formulera sin egen branschs begränsningar med sådan precision. Och slutsatsen Olah drog var logisk: om tekniken ska ta en god riktning krävs röster utifrån – röster som inte är bundna av den ekonomiska logik som formar varje beslut inne i labben.

Med andra ord: välkommen, Vatikanen.

Encyklikan handlar egentligen inte om AI

Men som TechCrunch träffsäkert påpekar i sin analys: Magnifica humanitas handlar i lika hög grad om makt som om teknik. Det 200 sidor långa dokumentet är en genomgripande kritik av hur koncentrerad kontroll över transformativa verktyg per definition undergräver det gemensamma bästa.

– När makt koncentreras i händerna på ett fåtal tenderar den att bli ogenomskinlig och undvika offentlig granskning, vilket ökar risken för snedvriden utveckling som skapar nya beroendeförhållanden, utestängningar och ojämlikheter, skriver påve Leo XIV.

Det är en formulering som lika gärna kunde ha kommit från en europeisk regleringsmyndighet eller en kritisk samhällsvetare – men som nu bär den katolska kyrkans auktoritet och når en global publik på drygt 1,3 miljarder människor.

Encyklikan publicerades, noterar TechCrunch, bara dagar efter att president Donald Trump uppges ha skjutit upp undertecknandet av en verkställande order om statlig tillsyn av nya AI-modeller – något som enligt uppgift skedde på inrådan av riskkapitalisten och tidigare AI-rådgivaren David Sacks. Tajmingen är knappast tillfällig.

Ett nytt slags röst i regleringsdiskussionen

Det som gör detta historiska ögonblick så intressant ur ett affärs- och transformationsperspektiv är inte att kyrkan är emot AI. Det är tvärtom. Encyklikan heter Magnifica humanitas – den storslagna mänskligheten – och bär en grundläggande tilltro till teknikens potential.

Men potentialen, menar påven, realiseras bara om makten över tekniken är brett fördelad, om insyn garanteras och om de som saknar ekonomiska resurser och teknisk sakkunskap inte reduceras till passiva mottagare av beslut fattade av andra.

Det är en position som är svår att argumentera emot – och som ger den globala regleringsdiskussionen ett nytt, tungt röstläge.

För oss som arbetar med att förstå och forma AI-omställningen bör det här vara ett välkommet tillskott. Inte för att kyrkan ska skriva kod eller sitta i bolagsstyrelser, utan för att de institutioner som bär djupast på mänsklighetens värderingar nu aktivt engagerar sig i frågor som annars riskerar att avgöras enbart av dem med störst investeringsbudget.