ECB larmar om AI-drivna cyberhot mot banker – och påven kräver globala bromsar på AI-utvecklingen

När klockan tickar snabbare än patcharna

Det börjar med en siffra som är svår att ta in. Anthropics AI-modell Claude Mythos Preview har på egen hand lyckats identifiera tusentals allvarliga säkerhetsbrister i operativsystem och webbläsare – en uppgift som tidigare krävde stora team av säkerhetsforskare och månaders arbete. Det är imponerande. Det är också skrämmande.

Det är mot den bakgrunden man ska förstå varför Europeiska centralbanken nu tagit det ovanliga steget att kalla storbanker till ett extrainsatt möte, enligt rapportering från Financial Times och Finextra. ECB:s vice ordförande Frank Elderson var tydlig: bankerna rör sig för långsamt. Det tidsfönster som en gång existerade mellan att en sårbarhet upptäcktes och att den utnyttjades – det fönstret krymper nu i rasande fart. Angripare med tillgång till liknande AI-verktyg behöver inte längre vara tålmodiga.

Budskapet till bankerna var inte en artig uppmaning. Det var ett ultimatum: presentera konkreta handlingsplaner och tidsramar, annars kommer ECB att tvingas agera med hårdare medel.

Vatikanen kliver in i debatten

Samtidigt, och med en timing som knappast kan vara tillfällig, publicerade påven Leo XIV sin första encyklika – Magnifica Humanitas – ett av den katolska kyrkans tyngsta officiella dokument. Enligt Computer Sweden riktar han där en kraftfull uppmaning till världens ledare att bromsa AI-utvecklingen och inrätta oberoende tillsynsorgan innan det är för sent.

Påven är inte vag. Han pekar ut autonoma vapensystem som redan befinner sig utanför meningsfull mänsklig kontroll, varnar för AI som ett verktyg för storskalig desinformation, och ifrågasätter om privata företag verkligen bör ha ensam rådighet över de enorma datamängder som driver systemen framåt. Med över en miljard troende i ryggen representerar Vatikanen en moralisk röst med genuint global räckvidd – och när den rösten nu höjs i AI-debatten förändras samtalets karaktär.

Det finansiella systemets dolda spruckor

Bortom det akuta cyberhotet finns en mer smygande problematik i finanssektorn. Finextra lyfter i en analys fram hur AI nu börjar bädda in sig i kärnprocesser – avveckling av värdepapper, riskbedömning, regelefterlevnad – utan att styrningsstrukturerna hängt med. Det handlar inte längre om pilotprojekt i utkanten av verksamheten. AI fattar beslut i realtid med stora ekonomiska konsekvenser.

En av de mest underskattade riskerna är vad Finextra kallar reproducerbarhetsproblemen: moderna AI-modeller kan ge olika svar vid varje körning, även under till synes identiska förhållanden. För en riskchef eller intern revisor som behöver förstå varför ett beslut fattades är det ett fundamentalt problem. Tillsynsmyndigheter kan inte granska det som inte går att återskapa.

Det är ett konkret exempel på hur teknikens rörelseenergi har överträffat vår förmåga att förstå och kontrollera den.

Möjligheten som fortfarande finns kvar

Jag vill vara ärlig: jag är fortfarande genuint positiv till vad AI kan åstadkomma. Samma kapacitet som gör Claude Mythos Preview till ett potentiellt vapen i fel händer gör det också till ett extraordinärt försvarsvapen i rätt händer. Banker och säkerhetsorganisationer som själva använder AI-verktyg för att scanna sina system kommer att ligga steget före angriparna – om de rör sig snabbt nog.

Men just det är poängen. Snabbhet kräver beredskap. Och beredskap kräver styrning.

ECB:s krismöte och påvens encyklika handlar egentligen om samma sak: vi har byggt kraftfulla system utan att i tillräcklig utsträckning bygga de institutioner som ska hålla dem ansvariga. Det är inte ett argument mot AI. Det är ett argument för att vi måste bli bättre på den delen av arbetet som sker vid sidan av modellträningen.