Ingen människa hinner reagera – och ingen maskin kan ställas till svars

Den osynliga händens dilemma

Det finns något djupt obehagligt i tanken att ett system utan samvete, utan konsekvensmedvetenhet och utan rättslig skyldighet ska kunna fatta beslut som påverkar miljontals människors ekonomi. Ändå är det precis den riktning vi rör oss mot, om vi inte aktivt väljer en annan väg.

Historikern och författaren Yuval Noah Harari publicerade nyligen en skarp varning i Financial Times, enligt Finextra – en varning riktad mot att tillåta artificiell intelligens att få juridisk personstatus. Argumentet är enkelt men kraftfullt: om en AI-agent kan agera som en juridisk person – ingå avtal, äga tillgångar och potentiellt skydda sig mot rättsliga följder – skapas ett system där de verkliga beslutsfattarna kan gömma sig bakom tekniken och undgå ansvar.

Innom finanshandeln är detta inte en abstrakt framtidsfråga. Det är redan verklighet.

Hastigheten är problemet

Automatiserade handelssystem genomför idag transaktioner på bråkdelar av en sekund – en hastighet som gör det omöjligt för någon människa att följa med i realtid, än mindre ingripa. Marknadsrörelser som förr tog timmar att spela ut sker nu på millisekunder. Och med den hastigheten följer en proportionell risk: när ett system felar, är skadan redan skedd innan någon hunnit reagera.

Den så kallade "Flash Crash" år 2010, då det amerikanska börsindexet Dow Jones rasade nästan tusen punkter på minuter innan det återhämtade sig, är ett tidigt och tydligt exempel på vad som händer när automatiserade system samverkar på oförutsägbara sätt. Sedan dess har tekniken blivit exponentiellt mer komplex – och ansvarsfrågorna proportionellt svårare att reda ut.

Principen som aldrig får offras

Finextra lyfter fram en avgörande juridisk princip som experter inom finansrätt nu slår vakt om med ökad kraft: det ska alltid finnas en identifierbar människa eller organisation som bär det yttersta ansvaret för ett AI-systems handlingar. Tekniken får inte bli en skyddsmur.

Detta är inte ett argument mot AI i finanssektorn – det är ett argument för ansvarsfull AI. Och det är en viktig distinktion. Vi kan och bör utnyttja AI:ns förmåga att analysera enorma datamängder, identifiera mönster och exekvera strategier med en precision som överstiger mänsklig kapacitet. Men det kräver att vi bygger in tydliga ansvarskedjor från start.

Vem programmerade systemet? Vem godkände strategin? Vem har tillsyn över driften? Dessa frågor måste ha svar – inte i efterhand, utan som en förutsättning för att systemet överhuvudtaget får tas i drift.

En affärsmässig, inte bara etisk, fråga

Jag vill betona något som ofta missas i den här debatten: detta handlar inte bara om etik och reglering. Det handlar om långsiktig affärsnytta.

Finansaktörer som bygger otydliga ansvarsstrukturer kring sina AI-system exponerar sig för enorma rättsliga och ryktesmässiga risker. En enda haveri-incident utan tydligt ansvarig part kan utlösa regulatoriska ingripanden, förlust av tillstånd och ett förtroendetapp hos kunder och investerare som tar år att återuppbygga.

De företag som vinner på sikt är de som ser ansvarsfull AI-styrning inte som ett hinder, utan som en konkurrensfördel. Transparens, spårbarhet och tydlig ansvarsfördelning är inte byråkratiska bördor – de är grundstenarna i ett hållbart AI-drivet finanssystem.

Tillsynsmyndigheternas kapplöpning mot klockan

Frågan är om regleringen hinner ikapp. Tillsynsmyndigheter runt om i världen brottas redan med att förstå och övervaka system som är designade för att vara snabbare och mer komplexa än vad traditionell revision kan hantera. Att dessutom lägga till ett lager av juridisk oklarhet kring AI-agenternas rättsliga ställning skulle göra situationen ohållbar.

Det behövs tydliga prejudikat – domstolsavgöranden som fastslår att ansvar inte kan delegeras till en algoritm. Det behövs tekniska krav på fullständiga granskningsloggar. Och det behövs en branschkultur där "maskinen bestämde" aldrig accepteras som ett tillräckligt svar.