AI-modellen Mythos Preview genomför första komplexa cyberattacken i säkerhetstester

Historisk milstolpe för AI-säkerhet

Vi bevittnar en fundamental förändring i AI-utvecklingen. För första gången har en AI-modell visat förmågan att genomföra verkliga, komplexa cyberattacker – inte bara teoretiska hot utan faktiska, mätbara säkerhetsrisker.

Storbritanniens AI-säkerhetsinstitutet (AISI) har testat Anthropics senaste modell Mythos Preview och resultaten är både imponerande och oroväckande. Mythos blev den första AI-modellen som lyckades genomföra AISI:s mest krävande test – "The Last Ones" – en 32-stegs simulerad dataextraktion från ett företagsnätverk, enligt Ars Technica.

Det här är inte bara en akademisk övning. Attacken, som skulle kräva cirka 20 timmar för en utbildad cybersäkerhetsexpert att genomföra, slutförde Mythos i 3 av 10 försök. Även de misslyckade försöken nådde i genomsnitt 22 av 32 steg, jämfört med tidigare modellers magra 16 steg.

Vad gör detta historiskt? Tidigare AI-modeller har kunnat hantera enskilda cybersäkerhetsuppgifter, men Mythos är första som kan koppla samman dessa till komplexa attackkedjor. Det här representerar kvalitativt språng – från verktyg som kan hjälpa till med säkerhetsuppgifter till system som självständigt kan planera och genomföra avancerade attacker.

Branschen splittrad om ansvar

Parallellt med dessa tekniska genombrott ser vi en häftig debatt om juridiskt ansvar. Anthropic och OpenAI – två av branschens tungviktare – står nu i direkt konflikt om lagförslaget SB 3444 i Illinois, rapporterar Wired.

Lagförslaget skulle skydda AI-utvecklare från ansvar när deras system missbrukas för omfattande skador – som massförstörelse eller egendomsskador över en miljard dollar. OpenAI stöder förslaget, medan Anthropic tar tydligt avstånd.

"Vi motsätter oss detta lagförslag. Bra transparenslagstiftning måste säkerställa allmän säkerhet och ansvarsskyldighet för företagen som utvecklar denna kraftfulla teknik, inte ge dem ett frikort från allt juridiskt ansvar", förklarar Cesar Fernandez från Anthropic.

Ironin är påtaglig: samma företag som utvecklat den första AI:n kapabel till verkliga cyberattacker argumenterar samtidigt för striktare juridiskt ansvar för AI-utvecklare.

Pragmatisk säkerhetsstrategi krävs

Anthropics försiktiga approach syns tydligt. Mythos Preview lanseras endast till "en begränsad grupp kritiska branschpartner" – en klok strategi när man vet vad systemet faktiskt kan åstadkomma.

Men vi måste vara realistiska om begränsningarna. Mythos misslyckades fortfarande med AISI:s absolut svåraste tester, vilket visar att vi inte står inför en omedelbar apokalyps. Snarare ser vi början på en ny era där AI-system gradvis utvecklar mer avancerade kapaciteter.

Det här skapar enorma möjligheter för cybersäkerhetsföretag och defensiva AI-applikationer. När AI kan attackera kommer den även revolutionera försvaret. Vi behöver inte bara bättre säkerhetssystem – vi behöver AI-drivna säkerhetssystem.