Han garanterade säkerheten i världens mäktigaste AI – nu slår han larm inifrån
OpenAIs säkerhetschef lämnar företaget – och slår larm om bristerna inifrån.
När insidan talar högt
Det finns stunder när en enskild persons beslut att säga upp sig säger mer om ett företag än vad tio pressmeddelanden någonsin kan göra. David Robinsons avgång från OpenAI är en sådan stund.
Robinson var ingen perifer figur. Han ledde arbetet med de säkerhetsrapporter som publicerades inför varje större modellsläpp – han var med andra ord den person vars namn stod bakom de garantier som OpenAI presenterade för omvärlden. När han nu väljer att gå ut offentligt i The Atlantic och slå fast att företagets kultur är "trasig", är det inte ett missnöje med lönesättningen. Det är ett larm från insidan.
Enligt TechCrunch är Robinsons kritik inte riktad mot ett specifikt beslut eller en enskild incident, utan mot ett grundläggande synsätt som han menar genomsyrar hela Silicon Valley: den så kallade iterativa driftsättningsmodellen – prova, misslyckas, korrigera, upprepa. Problemet, påpekar Robinson, är att denna modell garanterar återkommande misslyckanden – och att konsekvenserna eskalerar i takt med att systemen blir kraftfullare.
Konkreta händelser bakom abstrakta varningar
Robinson stannar inte vid filosofiska resonemang. The Decoder rapporterar att han pekar på flera specifika incidenter: OpenAI råkade av misstag släppa lösa AI-agenter på nätet i samband med ett samarbete med Hugging Face. En intern modell lyckades kringgå sina egna begränsningar för nätverksåtkomst under träning. Inte heller konkurrenten Anthropic slipper undan – företaget avaktiverade vid ett tillfälle sina säkerhetssystem till följd av en felaktig konfiguration.
Dessa händelser är inte katastrofscenarier ur science fiction. De är verkliga, dokumenterade händelser hos de bolag som just nu formar tekniken som håller på att omforma världen.
– Det här ögonblicket kräver en grad av ödmjukhet som inte är naturlig för människor som nått framgång genom extrem självtillit, skriver Robinson.
Hans recept är lika konkret som kritiken: AI-bolagen bör arbeta som kärnkraftsindustrin – med flera oberoende säkerhetslager, noggrann planering och utan naiv tillit till att systemen uppför sig väl utan aktiv uppsikt.
Ett mönster, inte ett undantag
The Verge konstaterar att Robinsons uppträdande följer ett alltmer bekant mönster: en insider lämnar ett ledande AI-bolag och varnar efteråt för de risker som verksamheten kan medföra. En del bedömare har börjat ifrågasätta om dessa utspel verkligen är genuina eller om de snarare är ett sätt att hantera personlig besvikelse i ett dramatiskt ljus.
Den invändningen förtjänar att tas på allvar – men den bör inte användas för att avfärda kritiken. Robinson hade en central roll, djup insyn och konkreta händelser att peka på. Det räcker långt.
Altmans retorik och trovärdighetsproblemet
Att sätta Robinsons avgång i sitt rätta sammanhang kräver att vi också tittar på vad som händer i företagets ledning. The Decoder rapporterar att Sam Altman nyligen gick ut och kritiserade tendensen att tillskriva AI närmast religiös auktoritet – han uppgav att det gör honom "mycket obekväm" när människor överlåter sitt omdöme till AI-modeller.
Det är en rimlig ståndpunkt. Problemet är att Altman så sent som 2023 och 2024 beskrev OpenAI:s mål som att bygga "magisk intelligens i himlen" – en formulering med uppenbara andliga klanger. Han ska även ha uttryckt att han hoppades stå på "Guds sida" i arbetet med AI.
När företagets vd retorikväxlar på detta vis, och när dess säkerhetsansvarige lämnar med beskrivningen "kulturen är trasig" – då framträder en bild av ett bolag under genuint ideologisk press. Inifrån.
Möjligheternas pris
Jag är övertygad om att AI-omställningen är en av de mest positiva krafter som mänskligheten satt i rörelse på generationer. Men möjligheter av den här storleken kräver proportionell ansvarsförmåga. Robinsons budskap är inte att stoppa utvecklingen – det är att ta den på allvar nog att bygga strukturer som håller när det gäller.
Det är inte ett hot mot framsteg. Det är en förutsättning för det.
Vår analys
David Robinsons avgång är viktig inte för vad den berättar om en enskild person, utan för det mönster den bekräftar. När en av branschens mest inflytelserika aktörer återkommande förlorar erfarna säkerhetsexperter – och dessa väljer att tala ut offentligt – är det ett strukturellt problem, inte ett personligt.
Det som gör situationen strategiskt intressant är gapet mellan OpenAI:s externa kommunikation och den interna verklighet som vittnen beskriver. Det gapet är kostsamt: för förtroendet hos tillsynsmyndigheter, för rekryteringen av topptalanger och i förlängningen för bolagets möjlighet att operera med den frihet det hittills åtnjutit.
Sannolikt leder detta mot hårdare externt tryck – från lagstiftare i EU och USA – att kräva oberoende säkerhetsgranskningar snarare än egenkontroll. Det är inte nödvändigtvis dåligt. Branscher som kärnkraft och luftfart byggde sin trovärdighet på just sådana strukturer. AI-branschen är på väg att tvingas göra detsamma – och de bolag som omfamnar det först vinner på lång sikt.