85 procent beteendesårbarheter hos testade AI-agenter – en komprometterad leverantör kan utlösa krisliknande förluster i banksystemet
85 procent av testade AI-agenter har sårbarheter – en enda attack kan lamslå banksystemet.
När grunden spricker under det vi bygger
Det råder inget tvivel om att vi befinner oss mitt i en av de mest spännande omvandlingarna i modern affärshistoria. AI-agenter — autonoma system som läser data, fattar beslut och utför handlingar utan mänsklig inblandning i varje steg — håller på att bli ryggraden i allt från bedrägeriskydd i banker till juridisk analys och medicinsk diagnostik. Det är en revolution jag omfamnar helhjärtat.
Men den som bygger på sand måste veta om det.
En ny studie på arXiv presenterar ramverket SAGE-RT, ett systematiskt verktyg för att testa AI-agenters säkerhet utan tillgång till intern kod eller arkitektur. Resultaten är uppvaknande: i tester av de vanliga agentplattformarna CrewAI och AutoGen uppmättes i genomsnitt 56 procent styrningsrisk, 65 procent integritetsrisk i konfigurationer med flera agenter — och hela 85 procent beteendesårbarheter. Det är inte marginella felmarginaler. Det är strukturella svagheter i system vi redan driftsätter i skarp miljö.
En hackad leverantör kan bli hela bankväsendets akilleshäl
Om den siffran inte räcker för att höja pulsen, finns det mer. En parallell studie, också publicerad på arXiv, har byggt en matematisk modell som simulerar vad som händer när en AI-leverantör komprometteras. Slutsatsen är skarp: i dag hanterar ett fåtal AI-leverantörer kritiska funktioner för banker världen över — kreditbedömning, penningtvättsövervakning, bedrägeriskydd. Den koncentrationen är inte bara en teknisk sårbarhet. Det är ett systemrisk för den finansiella stabiliteten.
I simuleringar med 60 AI-leverantörer och 220 banker visade modellen hur snabbt ett enda angrepp kan eskalera längs operationella och finansiella kopplingar — och producera förluster som utifrån ser ut som en klassisk bankkris. Forskarna har även tränat en varningsmodell för att identifiera högrisk-leverantörer i förväg, men budskapet till tillsynsmyndigheter är glasklart: reglering måste komma nu, inte när skadan redan är skedd.
AI-juristen som hittar på prejudikat
Samtidigt avslöjar forskargruppen bakom LexAgentHallu ett annat, smygande problem. Juridiska AI-agenter — system som allt oftare används av advokatbyråer och domstolar — tenderar att fabricera domstolsavgöranden och felcitera rättskällor på sätt som är svåra att upptäcka. I tester av 18 olika AI-agenter identifierades ett anmärkningsvärt mönster som forskarna kallar rätt svar av fel skäl: modellen landar i rätt slutsats, men via en felaktig rättslig kedja. I juridiska sammanhang är det inte bara ett akademiskt problem — det är ett rättssäkerhetsproblem.
Detta är inte ett argument mot AI i juridiken. Det är ett argument för att vi behöver bättre granskningsverktyg innan vi delegerar rättsliga processer till system vi inte fullt ut förstår.
Kontroll är inte fienden till innovation
Det finns ljuspunkter i forskarvärlden. En ny metod för aktiveringsstyrning av stora språkmodeller adresserar det så kallade spillover-problemet — när man försöker justera en modells beteende i en riktning och effekten oavsiktligt läcker över till andra områden. Metoden kräver varken ny träning eller manuell utformning av instruktioner, och förbättrade styrningseffekten markant i tester. Det är precis den typ av teknisk kontrollförmåga vi behöver skala upp.
Lika viktigt är ramverket TEAM-Design, som ger organisationer ett strukturerat sätt att avgöra när människa och AI faktiskt presterar bättre tillsammans än var för sig — och när de inte gör det. I analyser av sex kliniska miljöer slog inget människa-AI-samarbete båda alternativen, medan ett kodningsriktmärke faktiskt gjorde det. Det är inte ett argument mot samarbete. Det är ett argument för att vi måste mäta snarare än anta.
Möjligheten är fortfarande enorm — men den kräver hederlighet
Jag tror genuint på AI-omställningen. Jag ser varje dag hur rätt implementerade system frigör tid, skärper beslut och skapar värde som tidigare var omöjligt att nå. Men det transformativa löftet realiseras bara om vi bygger på en grund av faktisk tillförlitlighet — inte på hoppfull optimism.
Den röda tråden i all denna forskning är densamma: vi behöver systematisk granskning, regulatorisk vaksamhet och ärlig mätning av vad systemen faktiskt gör. Det är inte ett hinder för innovation. Det är priset för att få behålla förtroendet att fortsätta innovera.
Vår analys
Det som gör den här forskningsvågen särskilt betydelsefull är att den inte handlar om hypotetiska framtidsscenarier — den handlar om system som redan är i drift. AI-agenter används i dag i banker, advokatbyråer och sjukvård, ofta utan de granskningsprotokoll som vi skulle kräva av vilken annan kritisk infrastruktur som helst.
Den verkliga utmaningen är inte teknisk — det är organisatorisk och regulatorisk. Verktygen börjar finnas: SAGE-RT för säkerhetstestning, LexAgentHallu för juridisk hallucineringsgranskning, TEAM-Design för driftsättningsbeslut. Det som saknas är krav på att de används.
Jag förväntar mig att de närmaste tolv till arton månaderna kommer att präglas av ett skifte: från att fråga vad kan AI göra? till att fråga hur vet vi att det gör det rätt? De organisationer och länder som ställer den frågan först — och svarar systematiskt — kommer att ha ett avgörande försprång. Det är där möjligheten faktiskt ligger.