Påven varnar för AI – och kan ha skrivit varningen med just den tekniken
Påven fördömer AI i encyklika – möjligen skriven med just AI.
Vatikanen kliver in i teknikdebatten – med buller och bång
Det är inte ofta världens äldsta religiösa institution gör gemensam sak med ett av Silicon Valleys mest uppmärksammade AI-bolag. Men när påve Leo XIV i veckan offentliggjorde encyklikan Magnifica Humanitas – katolska kyrkans första officiella ställningstagande om artificiell intelligens – stod Christopher Olah, medgrundare av Anthropic, vid hans sida. Inte som åskådare, utan som inbjuden samtalspartner.
Det är ingen slump. Enligt rapportering från Wired har Vatikanen under flera år arbetat målmedvetet för att gå från moralisk kommentator till aktiv röst i debatten om hur AI bör utvecklas. Anthropic, som byggt sitt varumärke kring begreppet konstitutionell AI – att träna system utifrån etiska principer snarare än att i efterhand rätta till de farligaste svaren – har blivit en naturlig dialogpartner för en institution som sätter människovärdet i centrum.
Tolkien som vapen mot techbrosarna
Själva encyklikan är allt annat än ett torrt kyrkobyråkratiskt dokument. Leo varnar för ett "växande teknokratiskt paradigm" med förmåga att reducera både natur och människa till redskap för obegränsad effektivitet. Han drar paralleller till den industriella revolutionens sociala omvälvningar och refererar till sin namne Leo XIII, som 1891 tog arbetarnas parti mitt i en teknikdriven samhällsförändring.
Men det är ett annat citat som verkligen sticker ut. Rapporterar Wired: påven hämtar en passage ur Gandalfs mun i J.R.R. Tolkiens Sagan om ringen – att vår uppgift inte är att behärska världens alla strömmar, utan att göra vad vi förmår för att rensa det onda ur de fält vi känner. Udden är tydlig: riskkapitalisten Peter Thiel har döpt sitt dataföretag till Palantir – efter den kristallkula som den förrädiske trollkarlen Saruman använder som övervakningsredskap i samma sagavärld. Påven läser alltså Tolkien bättre än Silicon Valleys egna entusiaster.
Den besvärande ironin: skrevs varningen med AI?
Här blir berättelsen riktigt intressant. The Verge rapporterar om en analys publicerad på forumet LessWrong, där analytikern Linch Zhang granskat encyklikans språk med igenkänningsverktyget Pangram. Resultatet är uppseendeväckande: delar av dokumentet bedöms vara mellan 40 och 100 procent maskingenererade. Ordet genuinely – ett känt språkligt kännetecken hos Anthropics modell Claude – förekommer enligt Zhang ovanligt ofta jämfört med tidigare påvliga encyklikor.
En annan granskare körde dokumentet avsnitt för avsnitt och fann att 62 procent av det första kapitlet flaggades som maskingenererat. The Verge:s egen analys av ungefär 2 000 ord landade på 46 procent.
Vatikanen har ännu inte kommenterat analysen, skriver Breakit. Och det bör sägas högt: automatiserad igenkänning av maskingenererad text är notoriskt opålitlig. Formella och högt stiliserade dokument – precis som ett påvligt brev – kan lätt feltolkas av algoritmer tränade på vardaglig prosa. Pangram anses visserligen som ett av de mer tillförlitliga verktygen i forskarkretsar, men säkerhet är det inte fråga om.
Djupare än en rubrik om ironi
Men låt oss inte fastna i frågan om hur många procent som flaggades. Det verkligt intressanta är vad situationen avslöjar: AI är redan så djupt inbäddad i hur vi tänker, skriver och kommunicerar att även de institutioner som ifrågasätter tekniken kan ha svårt att hålla den på avstånd. Det gäller inte bara Vatikanen – det gäller advokatbyråer, nyhetsredaktioner, regeringskanslier och boardroom-presentationer världen över.
Och här ligger den egentliga möjligheten. När påven bjuder in Anthropic till Vatikanen är det inte ett tecken på kapitulation inför Silicon Valley – det är ett tecken på att de moraliska och filosofiska frågorna kring AI äntligen tas på allvar av aktörer med global räckvidd och historisk tyngd. Teknikbranschen har länge saknat motparter med tillräcklig auktoritet att utmana dess självbild. Nu kliver en sådan motpart fram.
Vår analys
Det händer något strategiskt viktigt när Vatikanen – med över en miljard troende och tvåtusen år av institutionell kontinuitet – väljer att inte bara kritisera AI utifrån, utan att aktivt söka dialog med branschens aktörer. Det förskjuter maktbalansen i regleringsdiskussionen på ett sätt som varken EU-direktivsarbete eller kongressutfrågningar lyckats med fullt ut: det tillför en moralisk dimension som är svår att avfärda med marknadsargument.
Ironin med det eventuellt AI-genererade varningsbrevet bör dock inte tillåtas dölja huvudbudskapet. Den verkliga frågan är inte om Claude hjälpte till att formulera ett stycke – det är vilka normer och värden som ska styra hur tekniken skalas upp globalt. Att en av världens mest inflytelserika institutioner nu sitter vid samma bord som Anthropic är ett prejudikat som kan påverka hur kommande regleringsdiskussioner förs. Det är en utveckling att välkomna – med öppna ögon för de spänningar den bär med sig.