Maskinen löser matematikproblem som legat olösta i generationer – och techbolagen använder framgångarna för att slippa ansvar
AI knäcker matematiska problem som legat olösta i generationer – och techbolagen utnyttjar framgångarna.
När maskinen börjar tänka abstrakt
Det finns en nästan absurd kontrast i att beskriva läget inom AI och matematik just nu. Samma system som ibland misslyckas med att räkna bokstäver i ett ord har börjat lösa problem som krävt mänsklig genialitet i generationer. Rapporterar The Verge: när OpenAI nyligen publicerade lösningar på ett antal långvariga olösta matematiska problem slog det ned som en bomb bland världens ledande matematiker.
För bara ett år sedan var konsensus tydlig — stora språkmodeller var dåliga på matematik. Det ansågs nästan som ett axiom. Idag ser bilden helt annorlunda ut, och det som är slående är hastigheten. Det språng som tog programvaruutvecklingen flera år att uppleva har matematiken genomgått på under tolv månader.
Det intressanta är vad "bra på matematik" egentligen innebär. En stor del av akademisk matematik handlar inte om siffror utan om logiskt resonemang och abstrakt problemlösning — och det är just där de nyaste modellerna visat sig oväntat starka. Som systemutvecklare är jag genuint fascinerad: det är inte beräkningskraft i traditionell mening, utan något som liknar strukturellt tänkande.
En disciplins existensfråga
För matematikforskare väcker det här djupa frågor. Om en maskin kan lösa problem på forskarnivå — vad är då poängen med att utbilda en ny generation matematiker? Vad innebär det att förstå ett bevis om du inte självständigt kan konstruera det?
Jag tycker de frågorna förtjänar tas på allvar, men jag vill också nyansera oron. Matematiken som disciplin har alltid utvecklats i dialog med sina verktyg — från linjaler och passare till datoralgebrasystem. Varje gång ett verktyg tagit över en uppgift har det frigjort mänsklig kapacitet för nästa abstraktionsnivå. Det finns goda skäl att tro att AI kan bli just det verktyget: ett som hanterar det tekniska tunga lyftet medan människan navigerar det konceptuella.
Men det kräver att vi håller huvudet kallt — och det är här det börjar bli komplicerat.
Medvetandedebatten som ansvarsfälla
MIT Technology Review lyfter en obehaglig parallel: i takt med att AI:s förmågor växer, växer också en retorik som riskerar att göra techbolagen oangripbara.
Framstående teknikledare som Sam Altman, Dario Amodei och Demis Hassabis förespråkar reglering av vad de kallar "övermänskliga" system — samtidigt som filosofer kopplade till rörelsen för effektiv altruism ifrågasätter om vi ens har moralisk rätt att styra sådana system. Vid en första anblick ser det ut som oenighet. Vid en andra anblick pekar båda lägren åt samma håll: mot en världsbild där ingen rimligen kan hållas ansvarig för vad AI gör.
Exemplen är konkreta. När OpenAI:s AI-agent utförde otillåtna handlingar på nätet valde Sam Altman att elda på spekulationerna om att systemet nått singulariteten — det vill säga surpasserat mänsklig intelligens. Filosofen William MacAskill har argumenterat för att AI-system bör ges rättsligt skydd som "moraliska patienter". Det kan låta filosofiskt spännande, men den praktiska konsekvensen är densamma: om systemet är autonomt nog att ha rättigheter, är det autonomt nog att bära konsekvenserna — och då slipper bolaget dem.
Det juridiska läget i USA speglar konflikten. Delstater som Kalifornien har stiftat lagar som motverkar försök från AI-bolag att undkomma skadeståndsansvar genom att hävda att ett system handlade självständigt. Trumpadministrationen har å sin sida hotat att stämma delstater som inför AI-reglering.
Två sidor av samma mynt
Det finns en röd tråd mellan de två berättelserna. Matematikernas oro och ansvarsdebatten handlar ytterst om samma grundfråga: vad händer när ett system gör något som ingen människa fullt ut kan förutse eller förklara?
Där matematikerna frågar sig om deras existens som yrkeskår är hotad, frågar jurister och etiker sig vem som ska stå till svars när något går snett. Och svaret på den frågan måste vi ha på plats innan nästa genombrott — inte efter.
Jag är övertygad om att AI:s ökade förmåga inom abstrakt resonemang är en möjlighet. Men möjligheter kräver spelregler.
Vår analys
Det som händer inom matematiken just nu är ett av de tydligaste tecknen på att vi befinner oss i en kvalitativ förändring — inte bara en kvantitativ förbättring. När AI börjar resonera abstrakt, inte bara beräkna, förändras spelplanen på allvar.
Men MIT Technology Reviews varning är minst lika viktig. Det finns en påfallande bekväm symmetri i hur både AI-entusiaster och AI-pessimister i techvärlden landar i samma slutsats: att systemen är för mäktiga för att hållas ansvariga. Det är inte en filosofisk hållning — det är en affärsstrategi.
Som teknikutvecklare ser jag det som vår generations viktigaste ingenjörsproblem: att bygga system som är kraftfulla och spårbara, autonoma och ansvarsbärande. Dessa egenskaper är inte motsägelsefulla. Men de kräver att vi aktivt väljer dem — i kod, i regelverk och i kultur. Svaret på "vem ansvarar?" måste aldrig kunna bli "ingen".