Ingen styr AI-makten – nu kliver aktieägarna in där politikerna sviktat

När kyrkan ställer frågan som politikerna undviker

Det är inte ofta Vatikanen hamnar i samma mening som Silicon Valley-analytiker och ESG-investerare. Men påve Leo XIV:s encyklika Magnifica Humanitas – Magnifika mänskligheten – har åstadkommit precis det. Dokumentet, som enligt MIT Technology Review beskriver AI som den mest genomgripande förändringen av mänskligt liv sedan den industriella revolutionen, ställer en fråga som borde hålla varje beslutsfattare vaken om nätterna: vem bär egentligen ansvar när teknologin omformar samhällets grundvalar?

Påvens svar är lika enkelt som det är obekvämt. Artificiell intelligens är ingen naturkraft, ingen övernaturlig entitet och inget oundvikligt öde. Det är en kommersiell produkt, skapad och ägd av en försvinnande liten grupp aktörer som koncentrerat en historisk makt över både ekonomi och demokrati. Frågan om vem som håller den makten i schack är därför inte teologisk – den är djupt politisk.

Regleringens tomrum är inte abstrakt – det är verkligt

Här är problemet i sin renaste form: det globala styret av AI existerar knappt. Enligt MIT Technology Review har den amerikanska handelsmyndigheten FTC begränsad räckvidd, EU:s AI-förordning täcker bara en bråkdel av den faktiska användningen, och de riktlinjer som standardiseringsorgan publicerar saknar verklig tvingande kraft. Det finns inget globalt tillsynsorgan för AI-säkerhet – inget som ens liknar vad vi har för kärnkraft, läkemedel eller luftfart.

Det tomrummet fylls nu av en osannolik aktör: investerare. Aktieägare i de stora techbolagen använder i ökande utsträckning sina röster och sitt kapital för att driva på ansvarsfulla metoder – inte för att de nödvändigtvis är mer etiskt drivna än lagstiftare, utan för att de har ett direkt ekonomiskt intresse av långsiktig stabilitet och förtroende. Det är ett pragmatiskt svar på ett strukturellt problem.

Som affärsutvecklare ser jag det här mönstret hela tiden: när regulatoriska ramverk halkar efter teknikutvecklingen fyller marknaden det vakuum som uppstår. Ibland är det bra. Ibland är det djupt otillräckligt.

Möjligheternas sida av ett allvarligt problem

Jag vill vara tydlig: jag läser påvens encyklika inte som ett angrepp på AI-utvecklingen som sådan. Tvärtom. Dokumentet erkänner teknologins transformativa potential och uppmanar till mod inför förändringen – inte till reträtt. Det är en uppmaning till ansvarsfull ambition, och det är en fras jag gärna lånar.

Möjligheterna med AI är reella och stora. Sjukvård som når fler människor. Utbildning anpassad efter individen. Klimatoptimering i realtid. Produktivitetsvinster som kan frigöra tid för det som verkligen betyder något. Ingen seriös aktör i branschen bör förneka det.

Men möjligheterna realiseras bara om grundstrukturen håller. Om förtroendet finns. Om makten är tillräckligt spridd för att förhindra att enstaka aktörer dikterar villkoren för resten av mänskligheten. Det är inte naiv idealism – det är affärsmässig grundlogik.

En encyklika som ett strategiskt dokument

Vad som gör Magnifica Humanitas ovanlig är dess räckvidd. Vatikanen talar till mer än en miljard katoliker, men budskapet är universellt riktat. Påven refererar till vad han kallar risken att bygga ett nytt Babels torn – ett projekt driven av storhetsvansinne utan etisk kompass. Det är en metafor som träffar, oavsett trosuppfattning.

Jag skulle faktiskt vilja se det här dokumentet läsas i styrelserum, inte bara i kyrkor. Inte för att ledare ska bli frommare, utan för att de kärnfrågor som ställs – om makt, ansvar och långsiktig mänsklig nytta – är exakt de frågor som avgör om AI-omställningen lyckas eller spårar ur.

När stater halkar efter och marknaden delvis tar över styrningen uppstår ett demokratiskt underskott. Det är det verkliga problemet. Och det kräver svar från fler aktörer än enbart lagstiftare.