Biologiska vapen är redan ett hot – AI gör det inte bättre

När hotet är mer jordnära än vi tror

Det är lätt att låta tankarna vandra mot Science Fiction när samtalet handlar om AI och existentiella risker. Autonoma vapensystem, felkalibrerade beslutsalgoritmer, maskiner som 'vaknar upp'. Men ibland är verkligheten både tråkigare och farligare än fantasin.

AI-företaget Anthropic publicerade nyligen en rapport om missbruk av sin samtalsmodell Claude. Rapporten beskriver fem dokumenterade fall där utländska forskare försökte kringgå systemets säkerhetsspärrar för att få tillgång till information om så kallad 'gain of function'-forskning – det vill säga genetisk manipulering av smittämnen i syfte att göra dem mer smittsamma, dödligare eller bättre anpassade för spridning bland däggdjur. Anthropic nekade tillgång och stängde av kontona. Så långt fungerade systemet som det skulle.

Men det som rapporten egentligen blottlägger är inte ett AI-problem – det är ett biologiskt säkerhetsproblem som AI råkar befinna sig i närheten av.

Den inbyggda tveeggigheten

Biologisk forskning är till sin natur dubbelsidig. Samma metoder som används för att utveckla vacciner och motmedel mot pandemier kan, i fel händer, utnyttjas för att konstruera biologiska vapen. Det är inte en brist i systemet – det är en grundläggande egenskap hos kunskapen själv. Varje genombrott inom smittskydd bär på möjligheten till både räddning och förödelse.

Journalisten Annie Jacobsen, känd för sin bästsäljande bok Nuclear War: A Scenario, har enligt Wired nu följt upp med Biological War: A Scenario. Med tillgång till högt uppsatta militärer, underrättelsetjänstemän och forskare tecknar hon en skrämmande bild: tröskeln för att utveckla biologiska vapen är dramatiskt lägre än för kärnvapen. Kärnvapen kräver vapengradigt fissilt material, avancerad ingenjörskonst och enorma resurser. Biologiska vapen kräver i grunden kunskap, laboratorieförhållanden och tillgång till smittämnen – infrastruktur som i allt högre utsträckning finns tillgänglig även utanför statliga aktörers kontroll.

AI som förstärkare – inte som ursprung

Här är det viktigt att hålla isär två separata frågor. Den första: är biologiska vapen ett allvarligt hot? Ja, och det har de varit länge. Den andra: gör AI hotet värre? Potentiellt ja – men det är en sekundär fråga.

Som systemutvecklare är jag van vid att se teknik som ett verktyg för förstärkning. AI förstärker det vi redan kan göra – snabbare litteratursökning, bättre proteinmodellering, effektivare syntes av forskningsresultat. Det innebär att AI kan sänka trösklarna ytterligare för aktörer som redan befinner sig nära gränsen för vad som är tekniskt möjligt. Det är ett reellt problem. Men det förändrar inte det grundläggande faktum att hotet existerade långt innan ChatGPT.

Det som Anthropics rapport egentligen visar är att säkerhetsarbetet inom AI-industrin faktiskt fungerar i det här fallet – och att vi behöver mer av det, inte mindre. Att identifiera, logga och stoppa försök till missbruk är precis den typ av regelefterlevnad och transparens som branschen måste prioritera.

En påminnelse om att farligt inte kräver superintelligens

Den kanske viktigaste lärdomen från den här debatten är en som vi inom teknikbranschen ibland glömmer: farliga system behöver inte vara intelligenta. De behöver inte vara autonoma. De behöver inte ens vara digitala.

En genetiskt modifierad patogen bryr sig inte om Turing-testet. Den bryr sig inte om huruvida den skapades med hjälp av en stor språkmodell eller en gammal lärobok. Konsekvenserna är desamma.

Det betyder inte att vi ska sluta oroa oss för AI-specifika risker. Men det betyder att riskdebatten måste bli bredare, mer nyanserad och mer förankrad i faktiska hotbilder – inte bara de teknologiskt mest spektakulära.