AI tränas på ojämlikhetens historia – nu kräver Nationwide, Bain och Cambridge ett gemensamt branschlyft

Finansbranschen vid ett vägskäl

Det finns ett begrepp som dyker upp gång på gång när man talar med ledare inom finanssektorn: transformation. Men transformation är sällan neutral. Den gynnar dem som är redo – och missgynnar dem som inte syns i de data som formar morgondagens beslutssystem.

Det är precis i den klyftan som ett nytt och anmärkningsvärt initiativ föds. Enligt Finextra går nu tre tunga aktörer – storbanken Nationwide, konsultföretaget Bain och University of Cambridge – gemensamt ut med en kraftfull uppmaning till hela finansbranschen: artificiell intelligens måste användas ansvarsfullt och samordnat om den ska gynna, snarare än motverka, kvinnors karriärutveckling.

Historiken sitter i algoritmerna

Problemet är välkänt för den som följt debatten om rättvis teknik under de senaste åren. AI-system tränas på historiska data – och historiken inom finanssektorn är, låt oss vara ärliga, inte särskilt jämlik. Kvinnor är kraftigt underrepresenterade i ledande befattningar, och lönegapet är ett faktum i hela branschen.

När ett rekryteringsverktyg eller ett system för befordransbeslut matas med den historiken, lär det sig inte vad som är rätt – det lär sig vad som är vanligt. Och det vanliga har alltför länge inneburit att män klättrar snabbare och högre.

Detta är inte spekulation. Forskning har upprepade gånger visat att algoritmer som bygger på historiska mönster riskerar att reproducera och till och med förstärka strukturell partiskhet. Det handlar inte om onda avsikter – det handlar om ogenomtänkt design och frånvaron av medveten styrning.

Kollektivt ansvar – inte individuell välvilja

Det som gör Nationwide, Bains och Cambridges initiativ intressant är att det bryter med en vanlig fallgrop: tron att det räcker om en aktör gör rätt saker. Uppmaningen är tydlig – det krävs ett kollektivt angreppssätt där hela branschen sätter gemensamma normer och riktlinjer.

Detta är strategiskt klokt. Om en enskild bank inför ansvarsfulla rekryteringsalgoritmer men konkurrenterna inte gör det, riskerar man att hamna i ett informationsunderskott – man väljer bort partiska system men saknar branschgemensamma standarder att mäta sig mot. Förändring i isolering är svår att hålla och ännu svårare att skala.

En samordnad branschinsats skapar i stället något annat: gemensamma prejudikat, delad bästa praxis och ett ramverk som gör det svårare för enskilda aktörer att blunda för frågan.

Möjligheten är lika stor som risken

Jag vill vara tydlig med något som lätt försvinner i den här typen av diskussion: AI är inte i grunden ett hot mot jämställdheten. Det är ett verktyg – och som alla verktyg avgörs dess värde av den som svingar det.

Använd rätt kan AI faktiskt radera den mänskliga partiskhet som länge gynnat dem som passar in i en viss mall. Blinda urvalssystem som bedömer kompetens utan att se kön, ålder eller namn. Algoritmer som identifierar lönegap i realtid och signalerar avvikelser. Analysverktyg som kartlägger var i organisationen kvinnor fastnar i karriären – och varför.

Det är den sidan av myntet som Nationwide, Bain och Cambridge vill att branschen ska fokusera på. Och det är rätt prioritet.

Från ord till handling

Frågan som återstår – och som alltid återstår när initiativ av det här slaget lanseras – är hur man tar steget från gemensam uppmaning till konkret förändring. Det krävs mer än välformulerade uppmaningar. Det krävs mätbara mål, öppen redovisning och ett ledarskap som faktiskt ställer sig bakom förändringen med resurser och mandat.

Finanssektorn har länge pratat om mångfald som ett värde. Nu har den ett verktyg som, om det hanteras med omsorg, kan omvandla den ambitionen från retorik till realitet. Det är en möjlighet som inte bör slösas bort.