Vatikanens AI-rådgivare: Techjättarna har kapat den etiska debatten – det är kartellbeteende

När etiken blir ett företagsmonopol

Det är sällan en katolsk präst hamnar i centrum av den hetaste debatten inom artificiell intelligens. Men Fader Paolo Benanti är inte vilken präst som helst — han är Vatikanens egen teknologirådgivare och en av de mest inflytelserika rösterna i den globala AI-etikdebatten. Och enligt en intervju med Wired är han genuint oroad — inte främst för superintelligens, utan för något betydligt mer jordnära och omedelbart.

Hans budskap är tydligt: den etiska debatten om AI håller på att privatiseras.

"Etik kan inte vara något som tillhör ett företags styrelse", säger Benanti. "Det är något som måste vägas och debatteras på det offentliga torget. Vi behöver demokratisk reglering."

Det är starka ord — och de träffar mitt i en pågående maktkamp som de flesta av oss kanske inte ens märker. Medan rubriker om AGI och existentiella risker dominerar nyhetsflödet, pågår en tystare men minst lika viktig strid: vem får egentligen sätta spelreglerna för hur AI ska utvecklas, användas och regleras?

Kartellen som ingen vill kalla kartell

Benantis kritik riktar sig mot ett mönster som bör kännas igen för alla som följt teknikbranschen de senaste decennierna. Genom att framställa AI-problematiken som så tekniskt komplex att bara de egna ingenjörerna kan förstå den, skapar de stora bolagen ett informationsövertag som i praktiken utesluter utomstående — politiker, civilsamhälle, akademiker och vanliga medborgare — från det samtal som borde vara allas.

"Det kallas kartell", konstaterar Benanti lakoniskt.

Det är ett ord som borde sätta igång eftertanke i fler styrelserum och riksdagssalar. En kartell behöver inte vara formellt överenskommen för att fungera som en. Det räcker att ett fåtal dominerande aktörer, genom sin samlade marknadsmakt och sitt kunskapsövertag, de facto sätter normerna för en hel bransch — inklusive normerna för vad som anses vara "etiskt".

Superintelligensens religiösa språk

Benanti, som uppenbarligen känner igen religiöst språkbruk när han hör det, är också kritisk till den närmast andaktsfulla ton med vilken superintelligens diskuteras i vissa AI-kretsar. OpenAI:s vd Sam Altman och andra ledande gestalter använder ibland ett ordval som gränsar till det messianska — teknik som ska "befria mänskligheten", modeller som är "i det närmaste gudlika" i sin förmåga.

För en präst med djup förankring i teologisk tradition är det här inte bara metaforiskt problematiskt. Det är en kategoriförväxling med reella konsekvenser: när tekniken tillskrivs transcendenta egenskaper, urholkas den kritiska granskning som annars borde omgärda varje kraftfull samhällsförändring.

Därtill tillkommer en uppenbar intressekonflikt. Benanti påpekar att bolag som OpenAI och Anthropic — vars forskare emellanåt utfärdar närmast apokalyptiska varningar om AI-risker — samtidigt förbereder börsnoteringar med miljardbelopp i spel. Det är svårt att hålla isär altruistisk oro för mänsklighetens öde från rationell positionering inför investerarkapital.

Demokratins roll i en teknologisk tidsålder

Vad Benanti egentligen efterlyser är inte att bromsa AI-utvecklingen — det vore varken realistiskt eller önskvärt. Han efterlyser i stället en återdemokratisering av etikdebatten: att de samtal som avgör hur AI formas och regleras förs på arenor där alla medborgare har en röst, inte bara de som råkar sitta på de mest avancerade datorklustren.

Detta är en påminnelse som branschen behöver höra, och som politiker runt om i världen — inte minst inom EU, som just nu implementerar sin AI-förordning — borde ta på djupaste allvar. Teknikutveckling i sig är sällan det avgörande. Det avgörande är alltid: vem bestämmer, på vars villkor, och med vilket mandat?

Fader Benantis röst är ovanlig i det här samtalet. Den är desto mer välkommen.