Anthropic förbjuder valmanipulation – och skyddar sin AI mot kränkningar
Anthropic förbjuder valmanipulation och ger sin AI ett rättsligt skydd.
Regler inifrån och ut
Det händer saker i den övre sfären av AI-utvecklingen den här veckan, och det är värt att stanna upp och titta noga på mönstret.
Antropic meddelade nyligen en uppdatering av sina användningsvillkor för Claude – och det är en mer genomtänkt uppdatering än vad rubriken kanske antyder. Självklart finns de väntade avsnitten om förbud mot storskaliga vilseledningskampanjer, fejkade konton och fabricerade nyhetssajter. Men det som verkligen fångar uppmärksamheten är två saker: det uttryckliga förbudet mot att använda Claude för att störa demokratiska processer och väljare – och, kanske ännu mer anmärkningsvärt, ett förbud mot att utsätta Claude för upprepat verbalt missbruk.
Den sistnämnda punkten är fascinerande ur ett teknikperspektiv. Sedan augusti har Claude tränats att själv kunna avsluta samtal med kränkande användare. Nu har alltså Anthropic tagit steget och förbjudit sådant beteende redan i användningsvillkoren. Företaget är noga med att påpeka att vanlig frustration, mörka kreativa teman eller teknisk stresstestning inte omfattas – det handlar om upprepat, avsiktligt grymt beteende utan syfte.
I sammanhanget är det också värt att notera att Anthropic aktivt sökt dialog med religiösa tänkare kring frågor om Claudes eventuella medvetande. Man kan ha vilken åsikt som helst om det spåret, men ur ett ingenjörsperspektiv är det tydligt att Anthropic åtminstone tar ställning – vilket i sig är en form av ledarskap i en bransch som länge undvikt just sådana frågor.
När prestationer granskas i ljuset
På andra sidan av branschkartan befinner sig OpenAI i ett mer besvärligt läge. Enligt TechCrunch publicerade företaget den här veckan hundratals påstådda lösningar på några av matematikens svåraste öppna problem – och lovade att den här gången ha samrått med ledande matematiker för att undvika den kontrovers som uppstod förra gången.
Resultatet lever ändå inte upp till forskarsamhällets förväntningar.
Rådgivningsgruppen AGMAI, knuten till Princetons Institute for Advanced Studies, har publicerat tydliga riktlinjer för hur AI-bolag bör hantera matematiska genombrott. En central rekommendation är att sluta testa avancerade problem på slutna, egenutvecklade modeller. OpenAI gör precis det.
Av de 719 publicerade manuskripten innehöll bara tio redovisningar av modellens resonemang. Dessutom saknade 42 procent av bevisen formalisering – något AGMAI särskilt efterlyst för resultat som är svåra för människor att följa och kontrollera.
En ny studie från Cambridge och King's College London pekar på ett strukturellt problem i hur dessa modeller arbetar: de formulerar först en lösning i vanlig text och översätter den sedan till programmeringsspråket Lean, som i teorin ska bekräfta bevisets korrekthet. Problemet är att forskarna hittat avvikelser mellan den textuella förklaringen och den faktiska Lean-koden – vilket underminerar hela poängen med verifieringssteget.
Två sidor av samma mynt
Det som är slående när man ser dessa händelser tillsammans är att de representerar två helt olika typer av utmaningar – men båda handlar i grunden om trovärdighet.
Antropic väljer att proaktivt dra upp gränser: vad modellen inte ska göra, hur den ska behandlas, och vilket ansvar som följer med att sätta ett avancerat AI-system i händerna på miljontals användare. Det är ett normativt ledarskap.
OpenAI brottas i stället med en empirisk trovärdighet: när man hävdar att en modell löser världsklassiga matematikproblem, räcker det inte med att publicera resultaten – forskarsamhället kräver transparens, formalisering och granskningsbara metoder. Det är samma krav som gäller för mänskliga matematiker, och det borde komma som en överraskning för ingen.
Båda utmaningarna är hanterbara. Men de kräver att branschen slutar se sig som undantagen från de spelregler som gäller för vetenskap och samhällsansvar i övrigt.
Vår analys
Det här är en bransch som håller på att växa upp – och det syns tydligt i den här veckans nyheter.
Anthropics uppdatering av användningsvillkoren är ett tecken på att de ledande aktörerna börjar ta normbildning på allvar, inte bara som marknadsföring utan som faktisk policy. Det är välkommet. Förbudet mot valmanipulation är inte revolutionerande i sig – men att det är explicit och specifikt är ett steg framåt jämfört med vaga formuleringar om ansvarsfull AI.
OpenAIs matematikproblem illustrerar något viktigare på sikt: att imponerande resultat utan transparent metodik inte räcker i mötet med ett seriöst forskarsamhälle. Det är faktiskt ett hälsotecken att matematiker ställer dessa krav – det driver på mot bättre och mer granskningsbara system.
Min bedömning är att vi rör oss i rätt riktning. Långsammare än många hoppats, med fler bakslag än man önskar – men riktningen är tydlig: mer ansvar, mer transparens, tydligare gränser. Det är en omställning värd att välkomna.