De lovade öppenhet – sedan samlade de data i hemlighet
Anthropic och Google lovade öppenhet – men samlade data i det dolda.
Löftena är vackra. Agerandet är ett annat.
Jag är en av de mest entusiastiska förespråkarna för AI-teknikens transformativa kraft. Jag tror genuint på att vi befinner oss i en av de mest spännande affärs- och samhällsutvecklarperioderna i modern tid. Men när de företag som sätter dagordningen för denna omställning börjar agera som om förtroendekapital är en förnybar resurs — då måste vi prata klarspråk.
Den senaste veckan har levererat två nyheter som tillsammans målar upp ett oroande mönster.
Anthropic och den dolda koden
Enligt Ars Technica avslöjades det nyligen att Anthropic — företaget bakom Claude och en av branschens starkaste röster för ansvarsfull AI-utveckling — i hemlighet övervakat kinesiska användare av sitt kodverktyg Claude Code. Spårningskoden, gömd via en teknik kallad promptsteganografi, samlade in information om användares tidszon, nätverksproxy och eventuella kopplingar till kinesiska AI-laboratorier. Allt utan att användarna visste om det.
Avsikten uppges ha varit att motverka kontosmuggling och skydda mot så kallade destillationsangrepp, där konkurrenter utnyttjar en modell i massiv skala för att träna egna system. Det är legitima bekymmer — men metoden är djupt problematisk. En Anthropic-ingenjör bekräftade att koden lades in som ett "experiment" i mars och att man "egentligen länge haft för avsikt att ta bort den". Det är inte en ursäkt. Det är en bekännelse.
Den bittra ironin är svår att missa: Anthropic är samma företag som nyligen vägrade samarbeta med den amerikanska regeringen kring övervakning av egna medborgare — en principiell hållning som hyllades brett. Att sedan i hemlighet övervaka en annan befolkningsgrupp undergräver hela den berättelsen.
Google och det tysta regelskiftet
Samtidigt rapporterar TechCrunch att Google genomfört en anmärkningsvärd förändring av sina integritetsinställningar — kommunicerad via ett diskret kundmejl i juni. Kortfattat: bilder du söker med via Google Lens, röstinspelningar från röstsökning och tal du spelar in i Google Translate kan nu sparas och användas för att träna Googles AI-modeller.
Det är inte olagligt. Google informerade sina användare — om än på ett sätt som är konstruerat för att undgå uppmärksamhet. Men det som verkligen borde väcka reaktioner är den inbyggda förvirringen: den gamla inställningen "Webb- och appaktivitet" skyddar dig inte längre mot denna datainsamling, eftersom Google Sök-tjänsterna nu hanteras i ett separat spår. Den som trodde sig vara skyddad är det alltså inte längre — utan att ha fått en tydlig signal om det.
Detta är ett klassiskt exempel på vad jag brukar kalla regelefterlevnadens minimum — man gör precis vad lagen kräver, men inte ett steg mer i riktning mot verklig transparens.
Ett mönster som branschen inte har råd med
Lägg till detta den pågående debatten kring Metas smarta glasögon, som The Verge nyligen rapporterade om. Möjligheten att diskret spela in korta klipp har utlöst kraftiga reaktioner på sociala medier, och populärkulturen — i form av Netflix-serien En man på insidan — har oavsiktligt normaliserat integritetsöverträdelser genom att göra dem till underhållning. Tittarna sympatiserar med karaktären som kränker andras integritet. Det säger något om var vi befinner oss kulturellt.
Tillsammans formar dessa händelser ett mönster som är mer oroande än varje enskild nyhet: AI-branschens ledande aktörer tycks behandla integritetslöften som marknadsföring snarare än som verksamhetsprinciper. Det är ett strategiskt misstag av första rang — inte bara moraliskt, utan affärsmässigt.
Förtroende är den infrastruktur som AI-adoption vilar på. Utan det saktar omställningen in, regleringen skärps och de verkliga vinsterna — för individer, företag och samhälle — uteblir. Det har branschen inte råd med.
Vår analys
Det som förenar Anthropic-avslöjandet och Googles tysta regeländring är inte illvilja — det är en strukturell omognad i hur AI-bolag hanterar förtroendefrågorna. Man bygger world-class teknik, men world-class ansvarsskyldighet saknas fortfarande.
Detta är inte bara ett etikproblem. Det är ett affärsproblem. EU:s AI-förordning och liknande lagstiftning runt om i världen kommer att fylla det vakuum som uppstår när branschen inte självreglerar sig tillräckligt. Och när reglering sker reaktivt — drivet av skandaler snarare än dialog — blir den sällan optimal för någon part.
Min spaning: de bolag som nu väljer att gå längre än lagen kräver, som kommunicerar proaktivt och som bygger verklig granskningstransparens, kommer att vinna långsiktigt marknadsförtroende. Omställningen är oundviklig — men vilka som leder den är fortfarande en öppen fråga.