Meta bröt kontrakt med kenyanskt företag – två månader efter avslöjande om intimvideoövervakning

Den dolda kostnaden av AI-innovation

Bakom varje AI-genombrott finns människor – ofta i utvecklingsländer – som gör det smutsiga arbetet. Metas senaste skandal visar på ett sätt som få AI-företag vill erkänna hur våra mest avancerade teknologier verkligen fungerar.

Enligt Ars Technica har Meta brutit sitt kontrakt med det kenyanska företaget Sama, endast två månader efter att anställda gick ut i svenska medier och avslöjade att de tvingats granska extremt känsligt videomaterial från Ray-Ban Meta-glasögon. Vi pratar inte om harmlösa vardagsscener – utan om människor som hade samlag, bytte kläder och använde toaletten, uppenbarligen utan vetskap om att de filmades.

Här ser vi AI-branschens mest obekväma sanningar i dagsljus.

Sama, som hade i uppdrag att analysera video-, bild- och ljudmaterial för att träna Metas AI-system, påstår att 1 108 arbetare påverkades när Meta plötsligt avslutade kontraktet. Timingen är talande – först kommer medierapporterna om integritetsbrott, sedan försvinner kontraktet.

Motstridiga förklaringar avslöjar sprickor

Meta hävdar att de "beslutade att avsluta samarbetet med Sama eftersom de inte uppfyller våra standarder". Sama säger däremot att de aldrig informerades om några brister. De anställda tror att Meta agerade som hämnd för att de pratat med journalister.

Detta är en klassisk företagsreaktion när obekväma sanningar kommer fram. Istället för att ta ansvar och åtgärda problemet, klipper man av leverantören och hoppas att historien försvinner.

Men det här handlar om mer än ett enskilt kontrakt. Ray-Ban Meta-glasögonen visar visserligen en lampa när de spelar in, men Sama-anställda rapporterade att många användare verkade omedvetna om när inspelning pågick. Det är en designbrist som Meta måste ta på allvar.

Innovationens pris

Jag har sett den här cykeln tidigare i andra teknikbranscher. Först kommer den häpnadsväckande innovationen – smarta glasögon som kan förstå världen omkring oss genom AI. Sedan kommer den obekväma frågan: vad kostade det egentligen att bygga detta?

För AI-företag är svaret ofta obehagligt. Tusentals lågbetalda arbetare i utvecklingsländer som sorterar genom känsligt material, ofta utan ordentligt psykologiskt stöd eller skydd för integritet.

Men här finns också en möjlighet. Meta och andra AI-jättar kan ta ledningen genom att utveckla bättre processer, starkare integritetsskydd och mer etiska arbetssätt. Tekniken finns – viljan verkar saknas.

Framtidens spelregler

Denna skandal kommer inte att stoppa utvecklingen av smarta glasögon eller AI-träning. Men den borde tvinga fram bättre standarder. EU:s AI-förordning och liknande regelverk i andra länder kommer att kräva större transparens kring hur AI-system tränas.

För konsumenter blir frågan: är vi villiga att acceptera dessa etiska kostnader för bekvämligheten av smarta glasögon? Eller kräver vi bättre från företagen vi stödjer med våra plånböcker?

Meta har en chans att vända detta till något positivt genom att utveckla branschledande etiska standarder. Frågan är om de tar den chansen – eller om de fortsätter att klippa kontrakt när sanningen kommer fram.