Ingen vill ta ansvar för AI – och det märks

Makten över AI driver som ett obemannat fartyg

Det är en av de mer talande bilderna från den senaste tidens AI-nyheter: President Donald Trump stoppade en planerad AI-order timmar innan den skulle undertecknas. Motiveringen, enligt Ny Teknik, var att ordern i sitt dåvarande skick riskerade att "stå i vägen" för det amerikanska tekniska ledarskapet gentemot Kina. Kort sagt – regleringen kom för nära inpå och fick stryka på foten.

Det är inte ett beslut utan logik. Konkurrenstrycket mot Kina är reellt, och de stora amerikanska teknikjättarna pumpar just nu in historiska belopp i AI-infrastruktur. Men det sänder också en tydlig signal: när tillväxtintresset krockar med tillsynsintresset, är det tillsynen som viker sig. Och det är ett mönster vi ser upprepas på flera håll just nu.

Bankerna – smartare system, svagare instinkt

Ta finanssektorn som ett konkret exempel. Finextra lyfter fram en paradox som förtjänar mer uppmärksamhet än den får: ju bättre AI-systemen blir på att analysera marknader och kreditrisker, desto mindre tränar bankernas egna analytiker upp sin förmåga att ifrågasätta slutsatserna. Det mänskliga omdömet atrofierar i takt med att automatiseringen ökar.

Detta är inte ett hypotetiskt framtidsproblem. Det byggs in strukturellt, dag för dag, i tusentals finansinstitut världen över. I ett normalläge syns det inte – AI-systemen levererar, folk litar på dem, och allt rullar på. Men i ett undantagsläge, en geopolitisk chock eller ett finansiellt skeende utan historisk motsvarighet, kan det visa sig att den mänskliga kompetensen som behövs för att navigera rätt helt enkelt inte längre finns kvar.

Därtill tillkommer risken med systemkoncentration: om ett fåtal AI-plattformar dominerar hela branschen kan liknande blinda fläckar sprida sig simultant genom det finansiella systemet. Vi rör oss mot ett läge där en enskild felkälla kan ha systemhotande räckvidd.

Decentralisering som löste ett problem och skapade ett annat

På ett helt annat håll i det digitala landskapet pågår ett liknande maktskifte, fast i omvänd riktning. Decentraliserade autonoma organisationer – DAO:er – byggdes ursprungligen på löftet om direkt demokrati utan mellanhänder. I praktiken, rapporterar Finextra, har de flesta DAO:er hamnat i ett oligarkiskt mönster där ett fåtal storägare dominerar besluten.

Nu tittar många på AI som en räddare ur detta dödläge. Tanken är att AI-system ska kunna analysera förslag mer objektivt, förklara komplex teknik för vanliga medlemmar och till och med rösta på uppdrag av passiva deltagare. Det låter tilltalande – men kritikerna ställer en obehaglig följdfråga: vem kontrollerar de AI-system som i sin tur kontrollerar organisationen? Makten förflyttas inte bort, den byter bara händer – från storägare till de utvecklare som tränar och underhåller algoritmerna. Och dessa utvecklare saknar i dag varken rättslig ansvarsskyldighet eller demokratisk legitimitet.

Tre berättelser, ett gemensamt mönster

Dessa tre berättelser – den indragna presidentordern, bankernas urholkade omdöme och DAO:ernas algoritmstyrning – handlar egentligen om samma sak: ansvarsluckan i AI-eran.

Ingen av de traditionella makthavarna har ännu tagit ett heltäckande grepp. Politiker backar när ekonomiska intressen hotas. Finansinstitut låter effektiviteten tränga undan eftertanken. Och de tekniska gemenskaperna som lovade decentralisering riskerar att producera en ny, svårare att utmana form av koncentrerad makt.

Jag är genuint övertygad om att AI är en av de mest transformativa krafterna vi sett i modern tid – och att möjligheterna vida överstiger riskerna. Men möjligheterna realiseras bara om vi bygger de strukturer som gör att vi kan lita på systemen. Det kräver att någon faktiskt tar ansvar. Och just nu verkar alla vänta på att någon annan ska göra det.