Metas AI-assistent Muse kartlägger dina närstående – utan deras vetskap eller samtycke

En assistent som vet mer om dina vänner än du anar

Jag är genuint entusiastisk över vad AI-assistenter kan göra för oss. Att en app självständigt kan sälja din bil, boka resor och sköta löpande ärenden – det är inte science fiction längre, det är 2025. Men det finns ett skäl att stanna upp och ställa de svåra frågorna, och Metas nya AI-assistent Muse ger oss ett perfekt tillfälle att göra just det.

Enligt en ingående granskning från teknikmediet Wired skapar Muse inte bara profiler om dig som användare – den kartlägger aktivt dina vänner och familjemedlemmar och sammanställer detaljerade profiler om dem. Utan deras vetskap. Utan deras samtycke. Det är en distinktion som är värd att låta sjunka in.

Muse är vad branschen kallar en agentbaserad AI – ett system som självständigt kan utföra komplexa, flerstegiga uppgifter kopplade till dina appar och tjänster. Det är en kraftfull arkitektur, och i rätt händer med rätt skyddsmekanismer kan den vara transformativt värdefull. Men när samma system uppmuntrar dig att dela med dig av bankkontoinformation, e-postuppgifter och passdata – och i bakgrunden bygger profiler om personer som aldrig en gång loggat in på appen – då har vi lämnat bekvämlighetslandskapet och kllivit in i något mer problematiskt.

Opt-ut som standard – igen

Muse följer Metas etablerade mönster: användare anmäls automatiskt till datainsamling för AI-träning. Det är inte ett nytt grepp från Meta, men det blir inte mer acceptabelt för det. I en tid när europeisk dataskyddslagstiftning ställer tydliga krav på informerat samtycke, är det anmärkningsvärt att ett globalt teknikbolag fortsätter att positionera sig på kant med dessa grundprinciper.

För svenska och europeiska användare är det här särskilt relevant. GDPR är inte en rekommendation – det är lag. Och en AI-assistent som systematiskt samlar in och bearbetar uppgifter om tredje parter, som inte är användare av tjänsten och som aldrig gett sitt medgivande, befinner sig på minst sagt osäker rättslig mark.

Formen förstärker problemet

Ett detalj som Wired lyfter fram förtjänar extra uppmärksamhet: Muse har ett gosigt, leksaksliknande yttre – en estetik som påminner om populära samlarfigurer. Assistenten riktar sig till vuxna, men utseendet riskerar att sänka vaksamheten. Det är ett designval som inte är oskyldigt. När ett verktyg med långtgående åtkomst till känslig data presenteras i förpackningen av ett mjukisdjur, är det svårt att inte se det som ett medvetet val för att minska friktionen – och därmed minska kritisk eftertanke.

Ovanpå det hela: kort efter lanseringen avslöjades en allvarlig säkerhetsbrist i form av en nolldagarssårbarhet som potentiellt hade kunnat ge angripare fritt tillträde till en användares dator. Meta uppger att bristen nu är åtgärdad, men det är en skakig start för en app som ber om tillgång till ditt bankkonto och ditt pass.

Möjligheten kvarstår – men kräver ansvar

Jag vill vara tydlig: agentbaserade AI-assistenter är framtiden. Förmågan att delegera komplexa uppgifter till ett intelligent system kommer att frigöra tid, skapa värde och förändra hur vi arbetar och lever. Det är inte en fråga om om – det är en fråga om hur.

Och det är just där Muse haltar. Inte i visionen, utan i genomförandet. En AI-assistent som vill ha din lojalitet och dina data måste förtjäna dem – genom transparens, tydliga val och respekt för alla inblandade parters integritet. Inte bara din som användare, utan även din familjs och dina vänners.

Den som bygger bäst förtroende vinner den här marknaden på lång sikt. Det borde Meta veta bättre än de flesta.