70 organisationer varnar: Metas smarta glasögon kan bli stalkingverktyg
Metas smarta glasögon kan identifiera okända personer genom ansiktsigenkänning.
Teknikens mörka sida blir synlig
När Meta presenterade sina smarta Ray-Ban-glasögon såg många potentialen i att ha en AI-assistent direkt i glasögonen. Men nu avslöjar läckta interna dokument att företaget arbetar med en funktion som får medborgarrättsorganisationer att slå larm.
Funktionen, som internt kallas "Name Tag", skulle enligt uppgifter från Wired ge glasögonbäraren möjlighet att identifiera personer i sin närhet genom ansiktsigenkänning. Det som får över 70 organisationer att reagera så starkt är inte bara tekniken i sig, utan hur diskret den skulle kunna användas.
Två versioner under utveckling
Enligt de läckta dokumenten har Metas teknikingenjörer övervägt två olika varianter av Name Tag. Den första, mer begränsade versionen skulle endast identifiera personer som bäraren redan är kopplad till på Metas plattformar – alltså vänner på Facebook eller Instagram.
Den andra varianten är betydligt mer omfattande och problematisk: den skulle kunna känna igen vem som helst med ett offentligt konto på Metas tjänster. Detta innebär att en glasögonbärare i princip skulle kunna identifiera vilken främling som helst på gatan, bara genom att titta på dem.
Från ett rent tekniskt perspektiv är detta imponerande – ansiktsigenkänning i realtid i så små formfaktorer som vanliga glasögon visar hur långt datorseende kommit. Men som systemutvecklare vet jag att bara för att vi kan bygga något betyder det inte att vi bör göra det.
Cynisk tajming avslöjad
Det kanske mest upprörande i de läckta dokumenten är Metas interna strategi. Företaget planerade enligt uppgift att lansera funktionen under vad de kallade en "dynamisk politisk miljö" – alltså när medborgarrättsgrupper skulle vara upptagna med andra frågor och inte lika uppmärksamma.
Koalitionen av organisationer, som inkluderar tungviktare som ACLU, Electronic Privacy Information Center och Fight for the Future, kallar detta "vidrigt beteende". I sitt brev till Mark Zuckerberg argumenterar de för att problemet med ansiktsigenkänning i diskreta konsumentglasögon "inte kan lösas genom produktförändringar, avanmälningsmöjligheter eller stegvisa säkerhetsåtgärder".
Teknikens dubbla natur
Detta är ett perfekt exempel på teknikens dubbla natur. Samma AI-system som kan hjälpa människor med minnessvårigheter att komma ihåg namn på bekanta, kan också ge förföljare och andra illvilliga aktörer ett kraftfullt verktyg för övervakning.
Problemet förstärks av att tekniken är osynlig för målpersonen. Till skillnad från när någon riktar en mobilkamera mot dig, ser helt vanliga glasögon ut som... vanliga glasögon. Det finns ingen tydlig signal om att du blir filmad eller analyserad.
För en stalker eller annan förövare skulle detta vara extremt värdefullt – möjligheten att snabbt identifiera sina offer och få tillgång till deras offentliga information på sociala medier, allt medan de ser helt naturliga ut.
Metas tidigare misstag
Detta är inte första gången Meta hamnar i blåsväder för ansiktsigenkänning. Företaget tvingades 2021 stänga av sin ansiktsigenkänningsfunktion på Facebook efter år av kritik och juridiska problem. Att de nu överväger att introducera tekniken i en ännu mer diskret form visar på en oroande brist på lärdomar från tidigare misstag.
Vår analys: En vändpunkt för diskret övervakning
Denna kontrovers markerar en viktig vändpunkt i debatten om integritetsskydd och AI. Vi står inför en framtid där kraftfulla AI-verktyg blir allt mer osynliga och integrerade i vardagsföremål.
Från ett utvecklingsperspektiv förstår jag Metas tekniska ambitioner – att bygga sömlösa AI-upplevelser är lockande. Men det här fallet visar tydligt att vi som bransch måste utveckla starkare etiska riktlinjer innan vi lanserar nya funktioner, inte efteråt.
Jag tror denna incident kommer påverka hur andra teknikjättar närmar sig liknande funktioner. Apple, Google och andra arbetar alla med smarta glasögon, och Metas motstånd här skapar ett viktigt prejudikat.
Framtiden ligger troligen i opt-in-baserade system där båda parter måste samtycka till identifiering, snarare än ensidiga verktyg för övervakning. Detta är en av de avgörande frågorna som kommer forma hur AI integreras i vårt dagliga liv.