OpenAI erbjuder sig att granska sig självt – och det borde oroa oss

En ny spelplan för teknikmakten

När ett privat bolag frivilligt kliver fram och erbjuder sig att stärka statens förmåga att granska just den tekniken bolaget självt har byggt – då är det dags att läsa det med lupp i båda händerna.

Enligt OpenAIs egen blogg handlar det nya initiativet om att ge demokratiska institutioner bättre förutsättningar att förstå, granska och reglera hur artificiell intelligens används inom underrättelsetjänst, försvar och annan säkerhetskritisk verksamhet. Verktyg, utbildning och specialistkompetens ska förmedlas till de organ som ska utöva tillsyn. Genomsynlighet och ansvarsutkrävande lyfts fram som bärande pelare.

På pappret låter det utmärkt. I praktiken är det en av de mest komplexa balansgångar vi sett i tekniksektorns historia.

Möjligheten är verklig – och stor

Låt mig vara tydlig: behovet är äkta. Statliga institutioner världen över halkar efter i förståelsen av vad moderna AI-system faktiskt kan och gör. Beslutsfattare saknar ofta den tekniska referensram som krävs för att ställa rätt frågor – än mindre för att tolka svaren. I det vakuumet har teknikbolagen i praktiken fått definiera spelreglerna för sin egen bransch.

Om OpenAIs initiativ verkligen levererar oberoende kompetensuppbyggnad hos tillsynsorgan, snarare än subtil påverkan i den egna riktningen, vore det ett genuint framsteg. En myndighet som faktiskt förstår hur en stor språkmodell fungerar – dess begränsningar, dess benägenhet till partiskhet, dess potentiella säkerhetsluckor – är oändligt mycket bättre rustad att reglera den än en myndighet som förlitar sig på leverantörens egna presentationer.

Det är här den strategiska möjligheten ligger, inte minst för Europa och Sverige: att ta emot kunskapsöverföringen, bygga intern kompetens, men aldrig låta den bli ensidigt beroende av en enda aktörs världsbild.

Intressekonflikten som ingen kan ignorera

Men – och det är ett tungt men – strukturen är problematisk. OpenAI är ett privatägt bolag med starka kommersiella intressen inom just de sektorer man nu erbjuder sig att utbilda tillsynsmyndigheterna om. Att sätta in en leverantör som huvudlärare för sina egna granskare skapar ett beroende som, i bästa fall, är oavsiktligt och i sämsta fall är strategiskt genomtänkt.

Detta är inte en ny dynamik. Finansbranschen har länge kämpat med liknande utmaningar, där komplex reglering i praktiken skrivits av de aktörer den är tänkt att begränsa. Tekniksektorn riskerar nu att upprepa samma mönster, fast i ännu högre tempo och med ännu svårare insyn.

Frågan som måste ställas är enkel men svårbesvarad: Vem utbildar utbildarna? Och vilka incitament styr urvalet av vad som lärs ut?

Demokratisk tillsyn kräver demokratisk finansiering

Det som saknas i OpenAIs initiativ – och som är avgörande för att det ska kunna kallas genuint demokratiskt – är ett tydligt oberoende. Tillsyn som finansieras, kurateras eller på annat sätt formas av den granskade parten är inte tillsyn. Det är relationshantering.

Vad Europa och Sverige behöver är statligt finansierade, tekniskt kompetenta tillsynsorgan som kan ta emot kunskap från flera källor, kritiskt värdera den och agera självständigt. EU:s AI-förordning är ett steg i rätt riktning, men regelverket är bara så starkt som de institutioner som ska tillämpa det.

OpenAIs initiativ kan paradoxalt nog bli en katalysator för just detta – inte för att det löser problemet, utan för att det tydliggör hur akut behovet av verkligt oberoende tillsynskapacitet är. Det bästa som kan hända är att regeringar tar initiativet som en väckarklocka och investerar i sin egen kompetens, parallellt med och oberoende av vad teknikbolagen erbjuder.

Så ja – initiativet är viktigt. Men låt oss inte ta emot det med stängda ögon.