Hur bevisar du att algoritmen diskriminerade just dig? Indiens lagstiftning ger inget svar
Indiens lag är blind för AI-diskriminering – och det drabbar miljoner konsumenter.
När lagen inte hänger med tekniken
Vi lever i en tid av extraordinär AI-transformation. Varje vecka lanseras nya system, nya tillämpningar, nya möjligheter. Men med möjligheterna följer också ett ansvar – och enligt en ny arbetspapper publicerad på arXiv har Indien, världens folkrikaste demokrati och en av världens snabbast växande teknikmarknader, ett allvarligt problem: landets konsumentskyddslag från 2019 är helt enkelt inte byggd för att hantera de skador som AI-system kan orsaka.
Det är ett fynd som borde få regelstiftare i Bryssel, Stockholm och New Delhi att sätta kaffet ifrån sig.
Teknikneutral – men inte tillräcklig
På ytan ser Indiens konsumentskyddslag lovande ut. Den använder teknikneutrala definitioner som i teorin kan tillämpas på AI-relaterade händelser – allt från personskador och psykologisk skada till partiska utdata och kontrollförlust. Det låter bra. Men forskarna bakom rapporten identifierar flera fundamentala svagheter som gör lagen i praktiken tandlös när det verkligen gäller.
Det första och kanske mest tekniskt utmanande problemet handlar om orsakssamband. Att bevisa att ett AI-system orsakat en specifik skada är ofta extremt svårt. AI-fel uppstår sällan som klassiska produktfel – en skruv som lossar, en broms som sviktar. I stället är de inbyggda i designval, träningsdata och komplexa systeminteraktioner. Hur bevisar en konsument att en kreditbedömningsalgoritms partiskhet just mot dem ledde till ett avslag som i sin tur orsakade ekonomisk skada? Det kräver teknisk expertis som varken konsumenter eller domstolar normalt besitter.
Värdekedjans dimma
Det andra strukturella problemet är ännu mer grundläggande. Konsumentskyddslagar är traditionellt byggda kring tydliga roller: det finns en tillverkare, en säljare och en slutkonsument. Det är ett ramverk som fungerat utmärkt för bilar, kylskåp och läkemedel i decennier.
Men AI-systemens värdekedja ser fundamentalt annorlunda ut. Bakom ett enskilt AI-verktyg kan det dölja sig en dataleverantör som tillhandahållit träningsdata, en grundmodellsutvecklare, ett företag som finjusterat modellen för ett specifikt ändamål, och slutligen ett företag som driftsätter verktyget mot konsumenter. Ansvaret är överlappande, distribuerat och i många fall genuint oklart. Indien saknar, enligt rapporten, proportionerliga mekanismer för att hantera dessa komplexa ansvarsfrågor med flera inblandade parter.
Indiens problem är världens problem
Här är poängen som jag verkligen vill att du tar med dig: detta är inte ett indiskt specialfall. Det är en universell utmaning som råkar ha fått ett tydligt och välanalyserat uttryck i en indisk kontext.
EU:s AI-förordning, som nu rullas ut i steg, tar viktiga kliv i rätt riktning. Den inför riskklassificering, krav på öppenhet och ansvarsskyldighet för högrisksystem. Men även AI-förordningen kämpar med exakt samma grundproblem: hur fastställer man ansvar i en teknisk värdekedja där ingen enskild aktör har full kontroll över systemets beteende?
I Sverige, som traditionellt haft ett starkt konsumentskydd, litar vi gärna på att regelverket skyddar oss. Men när AI-system fattar beslut om våra låneansökningar, våra sjukvårdsrekommendationer eller vår exponering i sociala medier – är de skyddsnäten verkligen anpassade för det?
Möjligheten i problemet
Jag vill vara tydlig: detta är inte ett argument mot AI-adoption. Det är tvärtom ett argument för att bygga rätt fundament för att AI-omställningen ska kunna ske på ett sätt som skapar varaktigt förtroende.
Förtroende är affärsmodellens grundsten. Företag som tidigt investerar i tydliga ansvarsstrukturer, spårbar AI-styrning och konsumentvänlig transparens kommer att ha ett enormt konkurrensförsprång när regleringen väl tar fart – och den kommer att ta fart. Rapporten från arXiv är ett i raden av akademiska varningssignaler som förr eller senare når lagstiftarnas skrivbord.
De organisationer som redan nu designar sina AI-system med ansvarsskyldighet inbyggd från grunden – inte som ett juridiskt plåster efteråt – är de som kommer att leda morgondagens marknad.
Vår analys
Den här rapporten är viktig av en enkel anledning: den sätter ord på ett strukturellt gap som de flesta vill låtsas inte finns. Vi befinner oss globalt i ett läge där AI-teknologin sprids i rekordfart medan de rättsliga ramverken halkar efter med lika rekordfart.
Indienfallet är särskilt intressant eftersom landet kombinerar massiv AI-adoption med ett relativt välutbyggt konsumentskyddssystem – ändå räcker det inte. Det signalerar att problemet inte löses med mer av samma typ av lagstiftning, utan kräver genuint nytänkande kring hur ansvar fördelas i distribuerade, AI-drivna system.
Utvecklingen pekar mot att vi kommer att se specialiserad AI-ansvarslagstiftning växa fram globalt under de närmaste fem åren. De länder och bolag som är förberedda – som har byggt in spårbarhet, dokumentation och tydliga ansvarskedjor – kommer att navigera den omställningen utan dramatik. Övriga kommer att lära sig den hårda vägen. Det valet görs nu.