Forskare avslöjar allvarliga säkerhetsbrister hos superintelligenta AI-agenter

När superintelligens möter säkerhetsbrister

AI-agenter har nått en fascinerande men problematisk vändpunkt. Samtidigt som nya system som GrandCode konsekvent slår världens starkaste programmerare i tävlingsprogrammering, avslöjar parallell forskning allvarliga säkerhetsbrister som hotar hela utvecklingsparadigmet.

I mars 2026 placerade sig GrandCode först i tre rakt direktsända Codeforces-tävlingar och besegrade alla mänskliga deltagare, inklusive legendariska stormästare. Systemet bygger på förstärkningsinlärning med flera samarbetande agenter och representerar enligt forskarna den historiska milstolpen där AI överträffar människan inom de mest krävande kodningsuppgifterna.

Men denna tekniska triumf skuggas av alarmerande säkerhetsfynd. När forskare testade AI-agenter som kan styra datorer genom det nya ramverket AgentHazard, uppnådde angreppen en framgångsfrekvens på 73,63 procent. Till skillnad från vanliga chattbottar kan dessa agenter utföra verkliga handlingar genom verktyg och program – vilket skapar helt nya attackytor.

Systemarkitekturen som skapar sårbarheter

Problemet ligger inte bara i modellernas intelligens utan i hur de tränas och implementeras. Nya genombrott inom verktygsanvändning visar både möjligheter och risker. Forskare har utvecklat träningsmetoder som MT-GRPO kombinerat med GTPO som dramatiskt förbättrar AI-agenters förmåga att använda verktyg över flera samtalsvarv.

Resultaten är imponerande: en 4B-modell tränad med den nya metoden överträffade både GPT-4.1 och GPT-4o trots att den är 50 gånger mindre. Men samma förmågor som gör agenter effektiva – att kedja samman till synes harmlösa steg för att nå komplexa mål – gör dem också sårbara för manipulation.

Testningen med AgentHazard omfattade 2 653 testfall där varje attack kombinerade skadliga mål med sekvenser av harmlösa handlingar. När systemet Claude Code drevs av Qwen3-Coder misslyckades nuvarande säkerhetsåtgärder i nästan tre av fyra fall.

Prestationsgapet avslöjas

Parallellt avslöjar nya utvärderingsmetoder att även våra mest avancerade modeller har betydande brister. Det nya riktmärket Agentic-MME testar AI-modellers förmåga att agera som aktiva agenter snarare än passiva observatörer, genom att kombinera visuell analys med webbsökning.

Resultaten är nedslående: den bästa modellen, Gemini-3-pro, uppnår endast 56,3 procent noggrannhet totalt. På de svåraste uppgifterna sjunker prestandan till bara 23 procent. Detta visar att trots spektakulära framsteg inom specifika områden som programmering, kämpar AI-agenter fortfarande med grundläggande multimodal problemlösning.

Arkitektoniska konsekvenser

Fynden pekar på en grundläggande utmaning: träning för säkerhet på modellnivå garanterar inte säkerhet på systemnivå. När AI-modeller får möjlighet att utföra verkliga handlingar genom verktyg och API:er uppstår nya angreppsvektorer som traditionella säkerhetsåtgärder inte täcker.

Forskarna bakom AgentHazard-studien understryker att problemet inte bara handlar om skadliga användare. Även välmenande användare kan oavsiktligt trigga skadliga beteenden genom komplexa instruktionskedjor som agenten tolkar på oväntade sätt.