Meta övervakade tusentals anställda i hemlighet — sedan exponerades privata uppgifter för hela organisationen

När AI-träning korsar en röd linje

Det finns en grundläggande spänning i hjärtat av modern AI-utveckling: de bästa träningsdata är ofta de mest personliga. Meta verkar ha bestämt sig för att lösa den spänningen genom att vända blicken inåt — mot de egna medarbetarna.

Sedan april i år har teknikjätten bedrivit det som internt kallas Model Capability Initiative: ett program som registrerat tangenttryckningar, musklick och skärminnehåll från Metas amerikanska anställda i syfte att träna bolagets AI-system. Programmet är i sig kontroversiellt nog. Men vad som har förvandlat det till en verklig kris är det som hände härnäst.

Enligt ett internt säkerhetsmeddelande som tidningen Wired tagit del av — och bekräftat av tre nuvarande anställda — exponerades data från hela 45 000 databastabeller öppet inom företaget. Inte för en handfull tekniker. För vem som helst. Uppgifterna inkluderade fullständiga utskrifter av privata konversationer, personuppgifter och prestandainformation om enskilda medarbetare.

Felkonfigurerade behörighetsinställningar — men problemet sitter djupare

Metas teknikchef Andrew Bosworth bekräftade i ett internt inlägg att programmets genomförande inte levt upp till de normer som fastställts i bolagets integritetsöversyn. Han pekade på felkonfigurerade åtkomstkontrollistor som den tekniska orsaken till haveriet. Meta har sedan dess pausat datainsamlingsprogrammet och meddelat att en utredning pågår. "Vi har inga indikationer på att data missbrukats av anställda", uppgav bolagets talesperson — en formulering som kanske är tänkt att lugna, men som lika gärna understryker allvaret.

Men den tekniska förklaringen riskerar att skymma den etiska kärnan: Hade programmet ens bort existera?

Det är en fråga som tydligen engagerar mer än 1 600 av Metas egna anställda, som enligt Wired redan före läckan rest invändningar mot programmet. Och det är en fråga som nu landar mitt i ett bolag som redan befinner sig i turbulens. Bosworth erkände nyligen i ett separat internt memo att den senaste omorganisationen av bolagets AI-satsning varit ingenting mindre än "katastrofal" — och lovade personalen större stabilitet och tydligare kommunikation framöver.

Ett mönster, inte en olyckshändelse

Det vore bekvämt att avfärda det här som ett isolerat teknikmisstag. Men Wired har också avslöjat att Meta i hemlighet byggt in ansiktsigenkänningskod i plattformen för bolagets smarta glasögon — kod som utnyttjar biometriska uppgifter lagrade på användarnas telefoner. Koden togs bort från den senaste versionen av appen efter att granskningen publicerats, utan någon offentlig förklaring från Meta.

När man ser de här händelserna tillsammans framträder ett oroande mönster: ett bolag som gång på gång skjuter på gränsen för vad som är acceptabelt datainsamling — och som sedan backar när det uppmärksammas. Det är inte en strategi som bygger förtroende, vare sig bland anställda, användare eller tillsynsmyndigheter.

Vad betyder det för oss som tror på AI?

Jag är genuint övertygad om att AI-omställningen skapar enorma möjligheter — för företag, för individer och för samhället i stort. Men den övertygelsen bygger på att omställningen sker på ett sätt som människor faktiskt kan ställa sig bakom. Och det kräver att bolag som Meta — som i dag formar spelreglerna för hela branschen — tar ett seriöst ansvar för hur de samlar in, lagrar och skyddar data.

Anställda är inte träningsdata. Och om de bästa AI-systemen bara kan byggas genom att kränka de egna medarbetarnas integritet, då är det affärsmodellen som är fel — inte de anställda som klagar.

Det är dags att branschen sätter ned foten och definierar vad som är en rimlig gräns för AI-träning baserad på mänskligt beteende. Inte för att hämma innovation — utan för att göra den hållbar.