Tre uppsagda säkerhetsforskare varnar: OpenAI skapar tystnadskultur som skrämmer branschen

När kritikerna tystnar — vem vaktar då?

Det är sällan man ser det här: tre erfarna säkerhetsforskare som gemensamt och offentligt utmanar ett av världens mäktigaste AI-bolag. Men det är precis vad Jasmine Wang, Tomek Korbak och Mikita Balesni har valt att göra efter att ha avskedats från OpenAI.

Enligt TechCrunch publicerade de tre ett öppet brev riktat direkt till OpenAI:s säkerhets- och säkerhetskommitté samt företagets rådgivande organ. I brevet avvisar de bestämt OpenAI:s officiella förklaring — att de brutit mot interna riktlinjer genom att dela konfidentiell information med en extern AI-säkerhetsorganisation.

Deras motargument är rakt på sak:

"AI är inte en vanlig teknik, och OpenAI är inte ett vanligt företag. De som arbetar med säkerhet ser riskerna innan någon annan gör det, och vi är beroende av nära samarbete med utomstående experter för att kunna hantera dem."

Med andra ord: det som OpenAI kallar ett regelbrott, kallar forskarna för grundläggande yrkesutövning.

Rädslans interna spridning

Det som gör det här ärendet särskilt allvarligt är inte bara de tre forskarnas egna öden — det är vad som händer bland dem som är kvar. Enligt Wang, Korbak och Balesni uppger kvarvarande anställda att de nu känner oro inför att utföra uppgifter som för bara några veckor sedan ansågs vara helt normala och accepterade.

Det är ett välkänt fenomen inom organisationsforskning: när en kollega bestraffas på ett sätt som upplevs som oförutsägbart eller oproportionerligt, drar sig andra tillbaka. Man riskerar ingenting. Man ifrågasätter ingenting. Man håller lågt.

I ett vanligt bolag är det problematiskt. I ett bolag som bygger teknologi med potential att forma framtiden i grunden — är det farligt.

Öppenhet som varumärke, slutenhet som praktik?

OpenAI grundades med ett uttalat uppdrag att utveckla AI till nytta för hela mänskligheten, med öppenhet som en av grundpelarna. Under de senaste åren har bolaget i allt högre grad rört sig bort från den ursprungliga profilen — mot ett mer slutet, kommersiellt drivet företag. Den här episoden riskerar att ytterligare underminera förtroendet för bolagets kultur.

Det är inte första gången ledande röster inom säkerhetsarbetet lämnar OpenAI under stormiga omständigheter. Under det senaste året har ett flertal högprofilerade avgångar — frivilliga såväl som ofrivilliga — skapat en bild av ett bolag i intern spänning mellan snabbhet och försiktighet, mellan tillväxt och ansvar.

När de som arbetar närmast riskerna försvinner, uppstår en kompetensförlust som inte är linjär. Det handlar inte bara om att ersätta tre tjänster. Det handlar om att förlora en specifik typ av modig, kritisk blick — den som faktiskt är villig att stå upp och säga ifrån internt, innan problemen når omvärlden.

Branschsignal med vida konsekvenser

Det är här det verkliga problemet ligger, och det sträcker sig långt bortom OpenAI. Om normen som etableras i branschen är att intern kritik bestraffas, att samarbete med externa experter ses som regelbrott snarare än god praxis — då får vi ett ekosystem där varningssignaler dämpas snarare än förstärks.

AI-säkerhet är inte ett internt angeläget ämne för en handfull bolag på USA:s västkust. Det är en samhällsfråga av första rangen, och den kräver robusta strukturer för visselblåsare, oberoende granskning och öppet kunskapsutbyte.

Det glädjande är att Wang, Korbak och Balesni valde att tala ut. Det är ett mod vi behöver fler av — och strukturer som skyddar det modet, snarare än straffar det.