OpenAI kände till massmördarens planer – men larmade aldrig polisen

När framsteg och ansvarsflykt sker sida vid sida

Det är svårt att inte stanna upp inför kombinationen. Samma vecka som OpenAI stoltserar med potentiellt historiska matematiska genombrott, rapporterar både Breakit och Ny Teknik att bolaget stäms av den kanadensiska provinsen British Columbia – för att ha känt till att en blivande massmördare använde ChatGPT för att planera ett angrepp, utan att någonsin larma myndigheterna.

Nio personer dog i skolmassakern i Tumbler Ridge. Enligt åtalet stängde OpenAI av det misstänkta kontot – men stannade där. Inga samtal med polisen. Inget larm. Bara ett tystat konto och nio döda.

Provinsens statsåklagare Niki Sharma är tydlig med sitt syfte, rapporterar Ny Teknik: hon vill uppnå verklig ansvarsskyldighet och konkreta förändringar. Sam Altman har visserligen offentligt bett om ursäkt och erkänt i ett brev till Tumbler Ridges invånare att en ursäkt är nödvändig för att erkänna den skada som samhället lidit. Men för de drabbade familjerna – varav en även lämnat in en egen stämningsansökan – räcker ord inte.

Den juridiska knuten som kan förändra allt

Detta är inte ett isolerat fall. Det är ett principiellt vägval för hela AI-branschen. Var går gränsen mellan användarintegritetsskydd och samhällets säkerhet? Har ett teknikbolag en juridisk – eller åtminstone moralisk – skyldighet att agera när en användare signalerar fara?

Jag är genuint positiv till vad AI kan åstadkomma. Men just därför är jag tydlig med att långsiktig tillit till dessa system kräver att branschen tar dessa frågor på blodigt allvar. Om domstolen ger British Columbia rätt kan det sätta ett rättsligt prejudikat som tvingar fram nya riktlinjer – inte bara för OpenAI utan för alla AI-bolag globalt. Teknikjurister världen över följer målet med stor uppmärksamhet, och det med rätta.

Ansvaret hamnar alltid hos fel person

Problemet är inte unikt för OpenAI. Enligt en ny undersökning beställd av kommunikationsföretaget 8×8, refererad av Computer Sweden, uppger hela 52 procent av tillfrågade IT-chefer att de hålls ansvariga när en AI-agent gör fel – trots att de ofta saknar befogenhet att styra systemen i fråga. Bara 6 procent av organisationerna pekar på juridik- eller regelefterlevnadsansvariga.

– IT-chefen är nu organisationens sista försvarslinje för AI. Det är ett uppdrag de aldrig sökte, konstaterar Samuel Wilson, vd på 8×8.

Detta är ett symptom på en bransch som rörde sig för snabbt utan att bygga styrningsramverk. Verktygen rullade ut. Kontrollmekanismerna kom aldrig. Nu betalar organisationer – och i värsta fall samhällen – priset.

Matematiska triumfer i en moralisk dimma

Och ändå: mitt i allt detta presenterar OpenAI ett påstående som, om det håller, är genuint revolutionerande. Enligt Breakit har bolagets interna modell löst över hundra matematikproblem som tidigare ansetts olösta – ett anspråk som väcker både fascination och skepsis i forskarvärlden.

For att möta den skepsisen bildar OpenAI en oberoende rådgivargrupp tillsammans med Institute for Advanced Study, ett av världens mest ansedda forskningsinstitut inom matematik och naturvetenskap. Det är rätt drag. Extern granskning är exakt vad som behövs för att skilja verkliga genombrott från välformulerade påståenden.

Men man kan inte låta bli att notera ironin: den transparens och externa granskning som OpenAI nu välkomnar inom matematiken har lyst med sin frånvaro när det gäller bolagets säkerhetsrutiner och rapporteringsplikt.

Två ansikten av samma bolag

Det är detta som gör det nuvarande läget så talande. OpenAI är inte ett ont bolag – men det är ett bolag som rör sig i otrolig hastighet och vars interna processer uppenbarligen inte hängt med. Det är möjligt att vara genuint imponerad av de tekniska framstegen och samtidigt kräva ett helt annat ansvarstagande när det gäller hur systemen påverkar verkliga människors liv.

AI-branschen kan inte ha det åt båda håll: man kan inte åberopa transformationens storhet och samtidigt ducka för transformationens konsekvenser.