OpenAI lanserar Astra – trots att modellen når högsta egna risknivån

När den egna varningsklockan inte räcker

Låt oss vara tydliga med vad som faktiskt hänt: OpenAI har byggt en modell, döpt den till Astra, konstaterat att den uppnått den högsta risknivån i det egna säkerhetsramverket – och sedan beslutat att släppa den ändå. Det rapporterar CNBC och bekräftas av Computer Sweden.

Det är inte en liten detalj i marginalen. Det är branschens kanske tydligaste vägval hittills.

Vad gör Astra så anmärkningsvärd? Modellen kan självständigt identifiera tidigare okända säkerhetsbrister och utnyttja dem – utan stegvisa instruktioner från en mänsklig operatör. Det är ett kvalitativt språng jämfört med vad vi sett tidigare. Säkerhetsforskare har länge varnat för just den här typen av förmåga, och nu är den här.

OpenAI:s svar är att begränsa åtkomsten till en utvald krets inom cybersäkerhetskoalitionen Daybreak. Allmänheten får inte tillgång till de mest känsliga funktionerna. Det är ett rimligt försiktighetsgrepp – men det väcker ändå en obehaglig följdfråga: om din egen högsta risknivå inte är tillräcklig för att stoppa en lansering, vad är den nivån egentligen till för?

Kritiker har länge ifrågasatt om AI-bolag är lämpade att själva sätta – och sedan tolka – gränserna för vilka risker som är acceptabla. Med Astra får den debatten ny och skarpare bränsle.

Anthropic tar en annan väg – eller?

Samtidigt, och det är här det blir riktigt intressant, lanserar Anthropic sina nya modeller Claude Fable 5.1 och Mythos 5.1. Nyheten lyfts fram som en prisfråga – upp till 45 procent billigare för avancerade tillämpningar med självständigt agerande AI-agenter – men det finns en säkerhetsdimension även här.

Fable 5.1 har fått skarpare säkerhetsfilter, och ett återkommande problem med tidigare modeller – att de felaktigt blockerat harmlösa frågor – uppges nu vara åtgärdat. Modellen kan även användas för att identifiera sårbarheter i programvara, men för fullständiga intrångstester hänvisas användare till de mer avancerade Opus-modellerna.

Anthropics rörelse är strategiskt elegant: sänk priset, bredda användarbasen, men behåll de mest kraftfulla säkerhetsanalysverktygens inbyggda gränser. Det är inte nödvändigtvis mer ansvarsfullt – det är en annan affärsmodell med en annan riskprofil.

Två strategier, ett gemensamt tryck

Det vore enkelt att måla upp OpenAI som den ansvarslöse och Anthropic som den försiktige. Men verkligheten är mer komplex. Båda bolagen verkar under ett enormt konkurrenstryck. Prissänkningar på 45 procent signalerar inte lugn och ro – de signalerar en bransch i rörelse där varje kvartal räknas.

Den verkliga frågan är inte om enskilda bolag gör rätt eller fel. Frågan är om branschen som helhet har de styrningsstrukturer som krävs när tekniken nu rör sig in i genuint okänd terräng.

När ett bolag passerar sin egen högsta risknivå och fortsätter framåt, och när ett annat sänker priset på verktyg för säkerhetsanalys för att nå fler kunder – då är det inte längre en intern bolagsfråga. Det är en samhällsfråga.

Jag är genuint entusiastisk över vad AI kan göra för produktivitet, innovation och problemlösning. Men entusiasm utan ärlighet är inte strategi – det är naivitet. Och den här veckan kräver ärlighet.

De möjligheter som Astra och Fable 5.1 representerar är verkliga. Riskerna är lika verkliga. Branschen kan inte fortsätta att behandla dem som separata rubriker.