Algoritmerna tar över finanssektorn — men vem har ansvaret när det går fel?

En sektor i rörelse — men åt vilket håll?

Det händer mycket i finanssektorn just nu. Riktigt mycket. Och det händer snabbt.

Det Londonbaserade finansteknikbolaget Primer säkrade nyligen 100 miljoner dollar — drygt en miljard kronor — i en Serie C-finansieringsrunda, rapporterar Finextra. Pengarna ska användas för att väva in artificiell intelligens i hela betalningsflödet för handlare världen över. Varje transaktion ska kunna analyseras och optimeras i realtid: bättre godkännandefrekvens, färre bedrägerier, skräddarsydda betalningsupplevelser. Bolaget, grundat av veteraner från Braintree och PayPal, positionerar sig mitt i en sektor där riskkapitalet fortsätter att strömma in även när investeringsklimatet i övrigt är återhållsamt. Det är ett tydligt tecken på att marknaden tror på AI som infrastruktur för morgondagens betalningar.

Samtidigt tar betalningsjätten Mastercard strid mot falska nätbutiker — en av de snabbast växande formerna av nätbedrägerier — genom sin nya tjänst Merchant Trust Services. Verktyget riktar sig till banker och betalningsleverantörer och ska i realtid kunna bedöma huruvida en näthandlare är äkta eller inte, med hjälp av mönsterigenkänning och Mastercards enorma transaktionsdatabas. Det är precis den typ av konkret, värdeskapande AI-tillämpning som visar vad tekniken faktiskt kan åstadkomma när den riktas mot ett avgränsat problem.

Möjligheternas baksida

Men mitt i all denna innovation finns en obekväm fråga som branschen inte längre kan skjuta framför sig.

Enligt en ny analys från Finextra kan de tio vanligaste mönstren inom självständiga AI-agenter i banksektorn sammantaget utgöra den allvarligaste systemrisken mot det globala finansiella systemet sedan kollapsen 2008. Det är en skarp varning som förtjänar att tas på allvar.

Logiken är inte svår att följa. När hundratals banker världen över börjar använda likartade system, tränade på liknande data och optimerade mot liknande mål, uppstår en farlig likriktning. Tre av de mest oroande mönstren är flockbeteende — där agenter oavsiktligt samordnar sina beslut genom att anpassa sig till varandra — återkopplingsslingor som förstärker marknadsrörelser långt bortom vad som är rationellt motiverat, samt ogenomskinliga beslutskedjor som varken revisorer eller tillsynsmyndigheter kan granska i realtid.

När alla agenter drar åt samma håll samtidigt kan marknadsrörelser förstärkas dramatiskt — utan att någon människa hinner reagera. Det är inte en hypotetisk risk. Det är en systemrisk inbyggd i hur tekniken fungerar när den skalas upp.

Reglering mot klockan

Det verkliga dilemmat är att finansbranschen befinner sig i ett kapplopp mot sig själv. Innovationstakten är hög — och det är bra. Primer, Mastercard och otaliga andra aktörer levererar verkliga värden till verkliga användare. Men regelverken, tillsynsmyndigheterna och de interna riskfunktionerna hänger efter.

Det är inte en ny dynamik. Finanskrisen 2008 visade med brutal tydlighet vad som händer när finansiella innovationer skalas upp snabbare än förmågan att förstå dem. Den gången var det komplexa värdepapper och bristande kapitalreserver. Den här gången kan det vara autonoma agenter med ömsesidig påverkan och ogenomträngliga beslutslogiker.

Jag är genuint optimistisk på AI:s potential att göra finanssektorn snabbare, rättvisare och mer tillgänglig. Men optimism utan ansvar är naivitet. Branschen behöver inte välja mellan innovation och säkerhet — men den behöver sluta bete sig som om det valet inte finns.

Frågan är inte om AI kommer att omforma bankväsendet. Det gör det redan. Frågan är om vi bygger in bromsar medan vi fortfarande har tid.