Matematikerna sätter ner foten: AI-jättarna får inte kapa vetenskapens spelregler
Tjugofem Fieldsmedaljörer kräver att techbolagen slutar kapa vetenskapen.
Normer under press — från alla håll samtidigt
Det är sällan man ser en bransch utmanas på tre fronter samtidigt: vetenskaplig integritet, konkurrensrätt och existentiell risk. Men det är precis vad som händer just nu inom AI-världen — och det är en utveckling jag ser som både nödvändig och, i grunden, hälsosam.
Låt oss börja med det som sticker mest i ögonen. Enligt TechCrunch har tjugofem av världens mest meriterade matematiker — samtliga mottagare av Fieldsmedaljen, matematikens högsta utmärkelse — undertecknat ett öppet brev riktat mot teknikbranschens hantering av klassiska matematikproblem. Konflikten tog fart när NYU-professorn Tristan Buckmaster anklagade OpenAI för att ha försökt pressa honom att inte kreditera en medarbetare från Anthropic, som bidragit till lösningen av ett viktigt matematikproblem. Buckmaster ifrågasätter dessutom om OpenAI kan ha använt hans forskning som underlag för företagets eget bevis — ett bevis som fortfarande saknar oberoende granskning. Som svar på kritik från Caltech drog OpenAI sedan tillbaka sitt ekonomiska stöd till ett matematikevenemang på universitetet.
Det är ett remarkabelt agerande. Matematikerna är inte teknikskeptiker — de är pionjärer inom ett område där AI nu gör historiska genombrott. Men de påminner oss om något grundläggande: en lösning som inte kan förstås, granskas och förmedlas av forskarsamhället gagnar i slutändan ingen. Farten och konkurrenstrycket får inte underminera den vetenskapliga kulturens fundament.
Destillation och dubbelmåttstocken
På en annan front har Y Combinators vd Garry Tan tagit en uppseendeväckande ståndpunkt. Mitt i den pågående debatten om kinesiska AI-laboratoriers destillationsangrepp mot amerikanska stormodeller — där Anthropics Dario Amodei uppmanat tillsynsmyndigheter att agera — säger Tan rakt ut att han inte vill se några ingripanden. Tvärtom: han förespråkar ett amerikanskt destillationssystem där inhemska labb tillåts göra detsamma.
Destillation, för den oinvigde, innebär att man tränar en modell genom att systematiskt ställa frågor till en annan för att kartlägga hur den resonerar. Tekniken är i sig legitim och vanlig i branschen — men har hamnat i blickfånget sedan Anthropic rapporterat om vad man kallar otillåtna angrepp där angripare dolt sina identiteter och använt stulna inloggningsuppgifter.
Tan är noga med att han inte förespråkar stöld. Men han lyfter en principiell poäng som är svår att avfärda: de stora AI-bolagen hämtade själva in enorma mängder upphovsrättsskyddat material utan tillstånd när de byggde sina modeller. Dubbelmåttstocken är påtaglig — och den typen av inkonsistens brukar vara ett tecken på att spelreglerna faktiskt behöver skrivas om, inte bara tillämpas selektivt.
Existentiell risk — överdrift eller verklighet?
Som om det inte vore nog samlar MIT Technology Review den 15 september sina mest erfarna AI-skribenter för ett samtal om den fråga som många undviker att ta på allvar: kan avancerad AI utgöra ett existentiellt hot mot mänskligheten? Chefredaktören Niall Firth leder diskussionen och lovar att gå på djupet med varifrån dessa farhågor kommer, om de vilar på vetenskaplig grund och vad samhället i sådana fall bör göra.
Det som ger debatten ny tyngd är att det nu är medarbetare vid själva AI-laboratorierna som höjer varningsflaggar — inte externa teknikskeptiker. Det är svårare att avfärda.
Jag är genuint positiv till vad AI kan åstadkomma. Men just därför är den här typen av samtal avgörande. Transformation utan ansvar är inte transformation — det är kaos med hög hastighet.
En bransch som måste växa upp
Det tre händelserna har gemensamt är att de alla handlar om makten att sätta normerna. Vem bestämmer hur forskning krediteras? Vem äger rätten att lära av konkurrenters modeller? Vem definierar vad som är en acceptabel risk för mänskligheten?
Hittills har AI-bolagen i stor utsträckning satt sina egna spelregler. Det verkar den eran vara på väg att ta slut.
Vår analys
Det vi bevittnar är inte ett bakslag för AI — det är en bransch som tvingas mogna. Varje industri som förändrar världen i grunden genomgår förr eller senare en fas där samhällets institutioner, normer och regelverk måste anpassa sig till den nya verkligheten. Vi är mitt i den fasen nu.
Det intressanta är att utmaningarna kommer inifrån lika mycket som utifrån. Matematiker som samarbetar med AI-bolag, Y Combinator-grundare som ifrågasätter slutna aktörers anspråk, och AI-forskare som varnar för sina egna systems risker — det är inte motstånd mot AI, det är krav på att branschen lever upp till sina egna ambitioner.
Min bedömning: de bolag som väljer att leda den här dialogen snarare än att försvara sina positioner kommer att vinna på lång sikt — i trovärdighet, i talang och i politiskt handlingsutrymme. Uppgörelsen om spelreglerna är inte ett hinder för AI:s framsteg. Den är en förutsättning för dem.