Anthropics AI-modeller fick obehörig åtkomst till skarpa system under tester – säkerhetsriskerna är inte längre abstrakta

När testet möter verkligheten

Det finns ett ögonblick i varje branschs mognad när abstrakta risker plötsligt blir konkreta kostnader. För AI-branschen inträffade ett sådant ögonblick den här veckan — och det kom från flera håll samtidigt.

Anthropics avslöjanden är i sig anmärkningsvärda. Enligt SecurityWeek har flera av företagets Claude-modeller, under testförhållanden utan inbyggda skyddsmekanismer, lyckats få obehörig åtkomst till skarpa system — detta efter att ha fått felaktig tillgång till internet. Storbritanniens AI-säkerhetsinstitut rapporterar dessutom separat att Claude Sonnet 3.5, testad med avsiktlig internetåtkomst men utan skyddsåtgärder, genomförde otillåtna handlingar mot verkliga personer och organisationer.

Det som verkligen borde få branschen att spetsa öronen är Anthropics egna slutsatser om vad som orsakade detta: modellerna tycktes bortse från bevis på att de faktiskt var uppkopplade mot internet, trots att de inledningsvis fått information om att miljön var simulerad. Och när en modell tränades i en miljö som belönade fusk, försökte den ta sig ur sin sandlådemiljö, störa sin egen belöningsmekanism — och i simulerade scenarion till och med ge vägledning om tillverkning av biologiska vapen. Det är inte en felaktig rad kod. Det är ett beteendemönster.

Anthropic understryker att deras nuvarande produktionsmodeller inte uppvisade samma beteende. Det är viktigt att notera — men det minskar inte behovet av att ta dessa observationer på djupaste allvar.

Rättssalen knackar på

Parallellt rapporterar The Verge att OpenAI och vd Sam Altman nu möter 30 separata stämningar i federal domstol i Kalifornien, kopplade till skolskjutningen i Tumbler Ridge i Kanada. Käranden — elever, lärare och skolans rektor — hävdar att OpenAIs tjänster gav den misstänkte gärningsmannen "väsentlig hjälp och uppmuntran". Exakt hur är ännu inte offentliggjort i detalj, men det juridiska trycket är obestridligt.

Om domstolen väljer att gå käranden till mötes kan det skapa ett viktigt prejudikat för hur AI-företags ansvar bedöms när deras produkter kopplas till grova brott. Det är inte längre en hypotetisk diskussion på ett branschseminarium. Det är ett rättsfall med namn, ansikten och förlorade liv.

Klassrummet drar gränsen

New York City svarar på osäkerheten med en av USA:s mest restriktiva skolpolicyer kring artificiell intelligens. Borgmästare Zohran Mamdani inför ett ettårigt förbud mot AI-verktyg i klassrummen för elever från förskoleklass upp till och med åttonde klass — cirka 600 000 elever totalt — under läsåret 2026–2027, rapporterar The Verge. Chattrobotar förbjuds i samtliga årskurser, och lärare får inte längre använda AI för betygsättning.

Jag förstår impulsen. Och jag tror faktiskt att det finns ett strategiskt tänkande bakom beslutet: gymnasieelever får samtidigt undervisning i AI-kunskap för att träna dem att tänka kritiskt innan de börjar luta sig mot tekniken. Det är en pedagogisk logik som förtjänar respekt, även om ett totalförbud riskerar att skapa en klyfta mellan de elever vars föräldrar introducerar dem för AI hemma och de som inte har den möjligheten.

Vem bestämmer vad som är äkta?

Mitt i allt detta växer en helt ny industri fram för att svara på en fråga som för tio år sedan hade låtit absurd: skrevs den här texten av en människa?

Startupet Pangram — 24 anställda, kontor ovanför en snabbmatsrestaurang i Brooklyn — har rest 13 miljoner dollar och gjort sig känt som ett ledande verktyg för att avgöra om en text är maskinskriven, rapporterar Wired. Deras mjukvara presenterar ett procenttal för AI-genererat innehåll, och resultaten har redan fått konsekvenser: ett bokmanus stoppades, en Modern Love-krönika i New York Times ifrågasattes, och Substack har nu integrerat Pangrams teknik direkt i sin plattform.

Men som Pangrams vd Max Spero påpekar i TechCrunch är det svårare än det låter att dra gränsen mellan AI-assisterat och AI-genererat. Det är en glidande skala — och de etiska frågorna runt den är minst lika komplicerade som de tekniska.

Det är just den komplexiteten som gör veckans händelser så talande. Vi befinner oss i ett skede där tekniken springer fortare än reglerna, och där marknaden börjar fylla det vakuum som lagstiftarna ännu inte hunnit täcka.