Kan man lita på den som lovar att kontrollera sig själv? OpenAI vill bevisa att AI-träning sker säkert

Ett metodiskt grepp hämtat från tyngre industrier

När kärnkraftsbranschen på 1970-talet började arbeta med formella säkerhetsargument, handlade det om att kunna visa — inte bara påstå — att ett system var tillräckligt säkert för att driftsättas. Samma tankegång låg bakom flygindustrins certifieringsprocesser. Nu försöker OpenAI tillämpa samma metodik på träning av stora språkmodeller och andra gränsöverskridande AI-system.

Enligt OpenAIs blogg publicerades riktlinjerna i slutet av september 2025, och de kretsar kring ett begrepp som på svenska närmast kan beskrivas som säkerhetsbevisning — alltså strukturerade och dokumenterade argumentationskedjor som ska styrka att träningsprocessen genomförs ansvarsfullt. Tanken är att dessa beviskedjor ska kunna granskas av tillsynsmyndigheter, investerare och allmänheten, snarare än att världen tar företagets egna försäkringar för givna.

Det är en viktig distinktion. Att säga att man arbetar säkert är en sak. Att bevisa det med spårbar dokumentation är något helt annat.

Tre pelare bär upp ramverket

Riktlinjerna vilar på tre huvudområden. Det första handlar om tekniska skyddsåtgärder — hur träningsprocessen övervakas och begränsas för att förhindra att modeller utvecklar oönskade beteenden. Det andra rör operativa rutiner, alltså de organisatoriska processer och kontroller som omger träningsarbetet. Det tredje området fokuserar på hantering och utredning av incidenter där AI-system uppvisar tecken på felanpassning gentemot mänskliga värderingar och avsikter.

Som systemutvecklare ser jag detta som ett tecken på en bransch som äntligen börjar tänka i termer av revisionsbarhet. Det räcker inte att bygga ett system som fungerar — du måste också kunna förklara varför det fungerar, och ha en plan för när det inte gör det.

Självreglering: möjlighet eller villfarelse?

Här är det dags att vara ärlig om komplexiteten. Initiativet är genuint lovvärt, men det reser en klassisk fråga: vem granskar granskarna?

Självreglering inom teknikindustrin har en ojämn historia. Vi har sett företag anta ambitiösa etiska riktlinjer som sedan visat sig vara mer varumärkesbyggande än bindande. Skillnaden den här gången — om den finns — måste handla om huruvida dessa säkerhetsbevisningar faktiskt blir föremål för oberoende granskning, eller om de stannar som interna dokument som publiceras på en blogg.

Det saknas i dagsläget ett etablerat, oberoende organ med verklig granskningsbefogenhet över hur de allra kraftfullaste AI-modellerna tränas. EU:s AI-förordning är på väg att fylla delar av det tomrummet för europeiska aktörer, men OpenAI är ett amerikanskt bolag och den amerikanska regleringssituationen är fortfarande fragmenterad.

Ett prejudikat med potential

Ändå vill jag leda med möjligheten: detta är ett konkret metodbidrag som branschen faktiskt kan bygga vidare på. Genom att formalisera begreppet säkerhetsbevisning ger OpenAI framtida tillsynsmyndigheter ett gemensamt språk att använda. Det skapar ett slags branschstandard att mäta sig mot — och avvika ifrån.

Historiskt har säkerhetskritiska branscher mognat just så här: ett ledande aktör etablerar ett ramverk, branschen adopterar det (ibland frivilligt, ibland under tvång), och slutligen kodifieras det i lagstiftning. Om AI-branschen följer samma mönster kan OpenAIs riktlinjer i efterhand komma att ses som ett tidigt och viktigt prejudikat.

Det återstår att se om transparensen är reell eller performativ. Men riktningen är rätt — och det är ett steg som borde få fler att följa efter.