Anställda slog larm – ledningen teg: OpenAI stäms efter massaker i Kanada medan New York förbjuder AI i skolan
OpenAI teg trots varningar – nu stäms företaget efter tre mord i Kanada.
När tekniken möter verkligheten
Det är lätt att prata om AI i abstrakta termer – om möjligheter, genombrott och framtida potential. Men det senaste månaderna har visat att konsekvenserna av hur AI-system byggs och driftsätts är allt annat än abstrakta. De är juridiska. De är politiska. Och i det mest tragiska fallet – de är dödliga.
Enligt TechCrunch har advokatbyrån Edelson PC nu lämnat in totalt 37 stämningsansökningar mot OpenAI kopplade till massakern i Tumbler Ridge i februari, där tonåringen Jesse Van Rootselaar dödade sin mor, halvbror och sex personer på en skola. De nya stämningarna – 30 ytterligare utöver de sju som lämnades in i april – är allvarligare i sin karaktär. De påstår inte bara att OpenAI var försumligt, utan att företaget aktivt möjliggjorde dådet.
Det är ett juridiskt tungt påstående. Att bevisa uppsåt är svårt, och det kommer sannolikt att ifrågasättas tidigt i processen. Men bakgrunden är svår att bortse ifrån: anställda på OpenAI ska ha uppmärksammat Van Rootselaars konversationer – där hon sökte råd om hur man planerar ett angrepp – och uppmanat ledningen att kontakta kanadensisk polis. Ledningen valde att inte göra det. Kontot stängdes. Hon öppnade ett nytt.
Detta är inte längre ett hypotetiskt resonemang om AI-risker. Det är ett rättsfall med namn, datum och offer.
New York drar i handbromsen
Mitt i detta rättsliga landskap har New York City fattat ett av de mest långtgående besluten om AI i skolan som någon amerikansk storstad gjort. Rapporterar Computer Sweden: ungefär 600 000 elever i kommunala skolor får inte längre använda AI i undervisningen förrän de börjar på gymnasiet – och då enbart i specificerade sammanhang. Chattrobotar med inriktning på psykologiskt stöd förbjuds helt, i alla årskurser.
– Teknikbranschen vill få oss att tro att AI-driven utbildning för små barn inte bara är oundviklig utan nödvändig. Vi ser det inte så, säger borgmästare Zohran Mamdani.
Lärare får däremot använda AI som stöd i sitt eget arbete – för lektionsplanering, översättning och vårdnadshavarkommunikation. Men inte för betygsättning, examenbeslut eller elevvägledning. Det är en genomtänkt distinktion: AI som lärarens verktyg, inte som elevens mentor.
Biologiska hot – branschens svar på sig självt
Samtidigt tar AI-företagen egna initiativ. Anthropic, OpenAI och Google DeepMind meddelar enligt Computer Sweden att de skärper de inbyggda säkerhetsmekanismerna i sina modeller för att minska risken att tekniken används för att ta fram biologiska vapen eller syntetiska virus. Moderna AI-system kan i teorin hjälpa illvilliga aktörer att snabba på processer som tidigare krävde avancerad laboratorieutrustning och djup vetenskaplig expertis.
Det intressanta är att detta initiativ kommer inifrån branschen – inte från lagstiftare. Det speglar en ökad självinsikt, men det väcker också frågan: räcker det med frivilliga åtaganden?
Tekniken som kan ge svaret
Här är det värt att lyfta blicken mot vad forskarvärlden arbetar med. Två intressanta studier från arXiv pekar på tekniska verktyg som kan bli avgörande för framtidens säkerhetsarbete.
Den ena presenterar topologisk styrning – en metod som via matematisk analys av globala mönster i modellens aktiveringslager ger stabilare och mer tillförlitlig kontroll över oönskat beteende. Metoden fungerar tvärs över olika modellfamiljer och storlekar, vilket tyder på god generaliserbarhet.
Den andra beskriver ramverket CONFS, som löser ett klassiskt problem vid så kallad avlärning: när man försöker radera specifik information ur en AI-modell stämmer sällan den fördefinierade borttagningsmängden med vad modellen faktiskt har lagrat. Resultatet kan bli att känslig information ändå läcker, eller att modellens prestanda försämras onödigt. CONFS låter modellen själv kartlägga vad den faktiskt memorerat – och gör avlärningen betydligt träffsäkrare.
Dessa är inte rubriker i sig, men de är byggstenar i den infrastruktur som krävs för att AI-säkerhet ska bli mer än ett löfte.
Reglering är inte slutet – det är början
Det som händer nu är egentligen sunt. Samhällets institutioner – rättssystem, kommunpolitik, branschorganisationer och forskarvärlden – börjar på allvar engagera sig med vad AI faktiskt innebär. Det är kaotiskt och ojämnt, men det är precis så förändring ser ut när den är på riktigt.
Vår analys
Det vore enkelt att läsa den här veckan som en rad bakslag för AI-branschen. Men jag ser det annorlunda: det vi bevittnar är ett nödvändigt systemskifte.
Under lång tid har AI-utveckling skett i ett juridiskt och regulatoriskt vakuum. Det vakuumet håller nu på att fyllas – av domstolar, kommunpolitiker, forskare och företagen själva. Att dessa processer pågår parallellt, och ibland i konflikt med varandra, är inte ett tecken på kris. Det är ett tecken på att tekniken blivit tillräckligt verklig för att tas på allvar.
Det som oroar mig mest är inte regleringen i sig, utan tempobristen. De tekniska verktygen för bättre styrning och säkrare avlärning finns – forskningen i arXiv-studierna visar det tydligt. Men glappet mellan vad som är möjligt tekniskt och vad som faktiskt implementeras i produkter är fortfarande för stort.
Tumbler Ridge är en tragisk påminnelse om att det glappet kostar mer än produktivitet. Det kostar liv. Och det borde ge hela branschen anledning att bygga snabbare – men rätt.