Räcker AI-industrins egna löften? Historien säger nej

När industrin tar plats i domarsätet

Scenen var välregisserad. USA:s mest inflytelserika AI-chefer samlades i Ovala rummet för att underteckna ett gemensamt säkerhetsavtal — ett handslag inför kamerorna som skulle signalera ansvarsfullhet och mognad. President Donald Trump sammanfattade filosofin bakom initiativet med ovanlig rakhet: "De ska övervaka, och de ska övervaka varandra, och de ska självreglera."

Det är en mening som borde ge alla som bryr sig om teknologins framtid anledning att stanna upp.

Jag är genuint entusiastisk över vad AI kan åstadkomma. Jag ser transformationskraften varje dag — i hur företag effektiviserar sina processer, hur sjukvården hittar nya diagnostikverktyg, hur utbildning når fler människor än någonsin. Men entusiasm får aldrig bli naivitet. Och det är just naivitet att tro att en industri med biljontals dollar i potentiella intäkter frivilligt och konsekvent kommer att prioritera samhällssäkerhet framför tillväxt — utan att någon oberoende instans håller dem ansvariga.

Bilindustrins varning från historien

Den historiska parallellen som Wired lyfter fram är inte bara retorisk. Den är klinisk och väldokumenterad.

År 1966 dog nästan 51 000 människor på amerikanska vägar. Säkerhetsbälten existerade redan som teknik — men bilindustrin genomförde inga frivilliga åtgärder. Det var inte branschens goda vilja som vände utvecklingen. Det var kongressens ingripande och den efterföljande lagstiftningen, the National Traffic and Motor Vehicle Safety Act, som tvingade fram säkerhetsbältets obligatorium från 1968. Trafikdödligheten föll dramatiskt, trots att antalet fordon på vägarna fortsatte att öka.

Analogen är naturligtvis inte perfekt — det finns ingen enkel teknisk lösning för AI-risker som motsvarar säkerhetsbältets mekaniska enkelhet. AI:s potentiella skadefaktorer är mer diffusa, svårare att mäta och förutse. Men det är just osäkerheten som gör oberoende tillsyn mer angelägen, inte mindre.

Trovärdighetsproblemets kärna

Självreglering fungerar i bästa fall som ett komplement till lagstiftning — aldrig som en ersättning för den. Det finns välkända exempel från läkemedelsindustrin, finanssektorn och livsmedelsindustrin på att frivilliga branschöverenskommelser systematiskt urholkas när de kolliderar med ekonomiska intressen.

AI-sektorn är dessutom på många sätt svårare att reglera än dessa föregångare. Teknologin utvecklas snabbare än lagstiftarnas förmåga att förstå den. Riskvärderingarna är genuint delade — somliga ledande bedömare varnar för katastrofala konsekvenser inom ett decennium, medan andra avfärdar sådana påståenden som överdrift. Den oenigheten skapar ett vakuum som branschlobbyn gärna fyller med sina egna definitioner av vad "säkert" betyder.

Det är inte en konspiration. Det är ett strukturellt problem. Och det löser man inte med ett handslag i Ovala rummet.

Möjligheternas perspektiv — utan att blunda

Jag vill vara tydlig: att kräva oberoende tillsyn är inte att vara fientlig mot AI-omställningen. Det är tvärtom en förutsättning för att den ska kunna genomföras på ett sätt som faktiskt bygger långsiktigt förtroende.

De AI-företag som verkligen har tillförlitliga säkerhetsrutiner borde välkomna oberoende granskning — för det är det enda sättet att skilja trovärdiga aktörer från dem som enbart använder säkerhetsretoriken som en marknadsföringsåtgärd. Transparent, externgranskad säkerhetsredovisning vore ett konkurrensmedel för de seriösa aktörerna, inte ett hinder.

För beslutsfattare, investerare och användare gäller det att ställa rätt frågor: Vem kontrollerar kontrollanterna? Vilka sanktionsmöjligheter finns? Och vad händer när ett säkerhetsåtagande krockar med ett kvartalsbokslut?

De frågorna förtjänar svar som är mer robusta än ett gemensamt pressmeddelande.