Anthropics nya toppmodell vägrar svara på biologifrågor från gymnasienivå – vem skyddas egentligen?

Världens starkaste AI kan inte förklara hösnuva

Det är en märklig paradox. Anthropic presenterar Claude Fable 5 som sitt mest avancerade och allmänt tillgängliga verktyg – med särskilt framhävda förmågor inom just biologi. Men när The Verge testade modellen i praktiken visade sig verkligheten vara en annan. Frågor om cellmembran, mitokondrier, hur mRNA-vacciner fungerar och vad antibiotikaresistens innebär fick inget svar. Modellen vägrade helt enkelt, och hänvisade användaren vidare till den äldre flaggskeppsmodellen Claude Opus 4.8.

Det handlar inte om okunskap. Begränsningarna är inbyggda med avsikt.

Fable 5 tillhör Anthropics nya Mythos-klass – en modellserie som bedömts vara så kapabel inom bland annat cybersäkerhets- och biologirelaterade uppgifter att företaget länge tvekade att överhuvudtaget göra den offentligt tillgänglig. Det är alltså inte en bugg utan ett medvetet konstruktionsbeslut: ju kraftfullare modell, desto striktare filter.

Rädslan för det dubbla användningsområdet

Jag förstår resonemanget bakom detta. AI-säkerhetsforskare har länge varnat för att avancerade biologimodeller potentiellt kan missbrukas – att detaljerad kunskap om patogener, smittspridning eller biokemiska processer i fel händer kan utgöra en verklig samhällsfara. Det är ett legitimt bekymmer, och Anthropic är inte ensamma om att ta det på allvar.

Men – och det här är ett stort men – det finns en fundamental skillnad mellan att blockera detaljerade instruktioner för att syntetisera farliga ämnen, och att vägra förklara vad Ebola är eller hur astmamedicin verkar. Det sistnämnda finns ordagrant i varje gymnasielärobok och på tusentals medicinska webbplatser. Att filtrera bort den typen av information skapar inte säkerhet. Det skapar frustration och en känsla av att verktyget inte är pålitligt.

Detta är inte ett teoretiskt problem. Det drabbar lärare som vill använda AI som pedagogiskt hjälpmedel, sjuksköterskor som söker snabb faktaåterkoppling, studenter som repeterar inför prov och nyfikna privatpersoner som vill förstå sin egen kropp bättre.

Gränsen är svår att dra – men den måste dras rätt

Jag vill vara tydlig: jag är inte av den skolan som säger att AI aldrig ska ha några begränsningar. Tvärtom. Ansvarsfull AI-design kräver just att man tänker igenom vad en modell bör och inte bör göra. Men den avvägningen måste vara välkalibrerad.

Det som rapporten från The Verge avslöjar är ett filter som verkar vara kalibrerat efter worst case-scenarion snarare än faktisk risk. Resultatet blir en modell som å ena sidan marknadsförs som ett kraftfullt verktyg för vetenskapliga uppgifter, och å andra sidan inte kan besvara frågor som varje sjuttonåring känner till. Det är ett trovärdighetsglapp som Anthropic behöver ta på allvar.

Konkurrenter som Google och OpenAI brottas med exakt samma balansgång – hur mycket ska man filtrera utan att göra modellen oanvändbar? Det finns ingen perfekt lösning, men just nu verkar Fable 5 ha landat på fel sida av den linjen.

Möjligheten som finns kvar

Trots kritiken vill jag betona det som är genuint imponerande: att Anthropic ens vågar ha den här diskussionen öppet, att de erkänner att Mythos-klassen är så kapabel att den kräver extra eftertanke, är ett tecken på mognad i branschen. Vi rör oss mot en era där AI-modeller faktiskt kan bidra till vetenskapliga genombrott – och det kräver ett nytt säkerhetstänk som inte existerade för tre år sedan.

Det positiva är att filterkalibrering är en lösbar teknisk utmaning. Anthropic kan och bör justera var gränsen går. Fable 5 är trots allt en modell i ett ekosystem som fortfarande är i rörelse – och det är precis det som gör det här till en angelägen fråga att följa.