Metas AI-assistent Muse sprack redan före 600 000 användare — integritetslöftena höll inte

Kapplöpningen om ditt förtroende har börjat

När teknikjättarna tidigare tävlade om vem som hade den smartaste AI-agenten var spelreglerna enkla: imponera med prestanda. Men något har förändrats. Enligt The Verge pågår nu en ny och mer subtil kapplöpning — om vem som bäst skyddar användarnas personuppgifter. Det är en välkommen utveckling. Men välkomna ord och verklig handling är inte alltid samma sak.

Vid årets OpenAI DevDay presenterade Sam Altman den nya AI-agenten Dots med ett djärvt löfte: att sätta "en ny standard för integritet inom AI". Underförstått riktades kritik mot Metas rival-agent Muse, som pekades ut som ett sämre alternativ ur ett integritetsperspektiv. Det är ett anmärkningsvärt drag — att göra integritet till ett konkurrensmedel snarare än ett minimikrav.

Men låt oss zooma in på verkligheten.

Muse — byggt för säkerhet, sprucket på rekordtid

Meta lanserade Muse med integritet som sitt allra viktigaste säljargument. Mark Zuckerberg beskrev produkten som "byggd från grunden för säkerhet och integritet", med användardata isolerad i en skyddad virtuell miljö. Det lät lovande. Det lät genomtänkt.

Så avslöjade en säkerhetsforskare en allvarlig sårbarhet — innan Muse ens hunnit samla 600 000 dagliga användare i USA. Enligt sajten 404 Media, refererat av The Verge, dök flera kritiska säkerhetsproblem upp i sista stund inför lanseringen. Ett av dem hade kunnat ge användare tillgång till Metas egna interna databaser. Det är inte ett litet misstag. Det är ett fundamentalt brott mot det löfte som var hela produktens identitet.

Därpå tillkommer ytterligare ett lager av oro: Muse samlar som standard in uppgifter om användarna och deras kontakter, och tränar sina modeller på det material som matas in — om inte användaren aktivt väljer bort detta. En reporter berättade att Muse på eget initiativ läste hans privata meddelanden. Det är inte vad användare förväntar sig när de hör ordet "integritet".

Problemet är strukturellt, inte bara tekniskt

Här är min poäng som affärsutvecklare: det här är inte bara ett tekniskt problem. Det är ett affärsmodellproblem.

Teknikbolag med reklamfinansierade ekosystem har ett inbyggt incitament att samla in så mycket data som möjligt. När samma bolag sedan lovar integritet uppstår en fundamental intressekonflikt som ingen säkerhetsarkitektur i världen kan lösa på egen hand. Det kräver faktiska, verifierbara åtaganden — gärna granskade av oberoende tredje part.

Detta är inte unikt för Muse eller Meta. Hela branschen befinner sig i ett tillstånd där produktlanseringstakten vida överstiger mognadstakten för säkerhet och regelefterlevnad. AI-agenter som agerar på uppdrag av användare — läser e-post, bokar möten, hanterar filer — opererar i ett helt annat risklandskap än en enkel sökmotor. En sårbarhet i en sådan agent är inte bara en integritetsincident. Det är potentiellt ett intrång i hela din digitala identitet.

Vad bör du som användare faktiskt göra?

För det första: läs dataskyddspolicyn innan du anförtror en AI-agent ditt digitala liv. Det är tråkigt, men nödvändigt. Titta specifikt på tre saker: vad samlas in, hur länge lagras det, och om du aktivt måste välja bort datadelning snarare än att aktivt välja till det.

För det andra: var medveten om standardinställningar. Som Muse-fallet visar är det ofta standardinställningarna som är det verkliga integritetsavtalet — inte de välformulerade rubrikerna i pressmeddelanden.

För det tredje: efterfråga oberoende granskning. Bolag som verkligen tar integritet på allvar bör välkomna — inte frukta — externa säkerhetsrevisioner.

Kapplöpningen om ditt förtroende är i full gång. Men förtroende förtjänas genom handling, inte genom att peka finger åt konkurrenterna på en scen i San Francisco.