Brittiska myndigheter planerar AI-ålderstestning – läckt dokument avslöjar kända brister som kan mista barn för vuxna

När teknikens brister möter människors öden

Jag skriver ofta om AI som en kraft för positiv förändring – och jag håller fast vid den övertygelsen. Men det förutsätter att vi faktiskt tar ansvar för hur vi rullar ut verktygen. Det som nu avslöjas om Storbritanniens planer på ansiktsbaserad åldersuppskattning av asylsökande är ett skolboksexempel på hur man inte ska göra det.

Enligt en gemensam granskning av Wired, Lighthouse Reports och The Independent, baserad på ett läckt internt dokument från det brittiska inrikesdepartementet, planerar regeringen att redan nästa år börja använda AI-system för att bedöma åldern på migranter som anländer utan identitetshandlingar. Det är första gången en sådan metod används i detta sammanhang i landet.

Hittills hade man kanske kunnat ge myndigheterna benefit of the doubt – ny teknik, lovande potential, fortsatt utvärdering. Men det läckta dokumentet river undan den ursäkten helt och hållet.

Felmarginalerna är inte abstrakta – de är öden

Dokumentet visar att de testade systemen presterar märkbart sämre på personer med ursprung i subsahariska Afrika – just den grupp som utgör den största andelen av migranter som anländer via Engelska kanalen. För kvinnor från denna region uppgår den genomsnittliga felmarginalerna till hela 4,6 år. I praktisk mening innebär det att en 13-åring i ett verkligt scenario riskerar att bedömas vara myndig.

Konsekvenserna av en sådan felbedömning är inte administrativa – de är livsavgörande. Klassas ett barn felaktigt som vuxen fråntas det det juridiska skydd som barn har rätt till och kan placeras i förvar avsett för vuxna. Det är inte en bugg i ett rekommendationssystem. Det är ett barn som hamnar på fel plats, med fel skydd, i ett av de mest utsatta ögonblicken i sitt liv.

Kommittén lades ned mitt i processen

Det som gör nyheten än mer graverande är att inrikesdepartementet, mitt under utvärderingen av tekniken, valde att lägga ned den vetenskapliga rådgivande kommitté vars uppgift var att granska just metoder för åldersbestämning. Tim Cole, professor emeritus i medicinsk statistik vid University College London och tidigare kommittémedlem, är öppet kritisk mot detta beslut.

Det är svårt att tolka den sekvensen som annat än ett aktivt val att undvika obehaglig granskning. Man tog bort den interna kontrollfunktionen – inte för att tekniken hade blivit bättre, utan mitt i den process där den borde ha granskats som allra hårdast.

Mönstret vi måste bryta

Detta är tyvärr inte ett unikt fall. Vi ser ett återkommande mönster globalt: AI-verktyg med dokumenterade brister – särskilt vad gäller partiskhet kopplad till etnicitet och kön – rullas ändå ut i myndighetsbeslut med stora konsekvenser för enskilda individer. Det har hänt inom rättsväsendet i USA, inom kreditgivning och nu alltså inom asylprocessen i Storbritannien.

Det som skiljer detta fall från många andra är graden av dokumenterad medvetenhet. Regeringen vet om bristerna. Det läckta dokumentet visar det svart på vitt. Ändå fortsätter man.

AI-branschen och vi som arbetar med att driva på för teknikens möjligheter har ett gemensamt ansvar här: vi kan inte försvara en utbyggnadstakt som offrar rättssäkerhet för snabbhet. Tillit till AI byggs inte genom att dölja problem – den byggs genom att hantera dem öppet.

Storbritannien har nu en möjlighet att backa, ta ett steg tillbaka och ställa rätt krav på tekniken innan den används i skarpt läge. Frågan är om det politiska modet finns där.