Meta drog tillbaka Instagram-funktion efter raseriet – skapade AI-bilder från dina foton utan samtycke

När snabbhet trumfar samtycke

Det är en historia vi har sett förut – men den blir inte mindre allvarlig för det. Meta lanserade nyligen en funktion inom sin AI-bildgenerator Muse Image för Instagram, som gav användare möjligheten att skapa AI-genererade bilder baserade på foton från offentliga konton. Allt som krävdes var ett @-omnämnande av ett valfritt konto, varefter systemet använde personens publicerade bilder som referensmaterial för att generera nytt visuellt innehåll.

Problemen var uppenbara från start – för alla utom, uppenbarligen, de som godkände lanseringen.

Som Computer Sweden rapporterar reagerade integritetsexperter och användare omedelbart och skarpt. Funktionen öppnade en bred port för att skapa manipulerade, vilseledande eller direkt kränkande bilder av verkliga personer, baserade på deras eget, offentligt delade material. Det mest anmärkningsvärda? Kontoinnehavarna informerades inte ens om att deras bilder användes som underlag. Inget samtycke. Ingen varning. Ingen möjlighet att säga nej.

Meta drog tillbaka funktionen efter uppståndelsen, men har inte kommunicerat några konkreta planer för hur de grundläggande problemen ska hanteras inför en eventuell ny lansering.

Inte ett olycksfall – ett mönster

Jag vill vara tydlig: jag är genuint entusiastisk över vad AI-driven bildgenerering kan åstadkomma. Verktyg som låter kreatörer, marknadsförare och vanliga användare skapa visuellt innehåll med enkel textinmatning eller bildreferenser är kraftfulla och värdeskapande. Det är en fantastisk teknisk utveckling.

Men den här episoden handlar inte om tekniken i sig – den handlar om ett grundläggande misslyckande i produktutvecklingsprocessen. Att bygga en funktion som per design använder andras bilder utan samtycke, och sedan rulla ut den till miljontals användare, är inte ett misstag i utkanten av produkten. Det är ett strukturellt fel i hur beslutet fattades.

Detta är tyvärr inte unikt för Meta. Vi har sett liknande mönster hos flera stora aktörer inom AI-branschen: funktioner och tjänster rullas ut i högt tempo, reaktionerna från användare och experter strömmar in, och företaget backar eller justerar. Det är en produktutvecklingslogik som sätter lansering före integritet – och den har djupa rötter i en kultur som belönar snabbhet framför grundlighet.

Vad som faktiskt krävs

För Meta är detta mer än en PR-kris. Bolaget bär på ett tungt historiskt bagage kring integritetsfrågor, och varje ny incident riskerar att ytterligare urholka det förtroende man behöver för att lyckas med sina AI-satsningar på lång sikt.

Det som behövs är inte mer avancerad teknologi – det är bättre processer. Konkret handlar det om:

• Samtycke som standard, inte som efterhandskonstruktion. Ingen funktion som använder en persons bilder bör kunna aktiveras utan ett aktivt och informerat godkännande.
• Intern etikgranskning med verklig tyngd – inte som en bocka-i-rutan-övning, utan som ett reellt hinder för lansering om grundläggande frågor är olösta.
• Transparens mot användarna om hur deras innehåll kan komma att användas av plattformens AI-system.

Dessa krav är rimliga. De är också fullt möjliga att uppfylla utan att offra innovationstakten på ett avgörande sätt. Det handlar om prioriteringar.

Branschen håller andan

Den bredare frågan är vad den här typen av händelser gör med allmänhetens förtroende för AI som teknologi. Varje gång en stor aktör tvingas backa efter en hafsig lansering förstärks berättelsen om att AI-utveckling sker på bekostnad av vanliga människors integritet och säkerhet. Det är en berättelse som kan bli självuppfyllande – och som riskerar att bana väg för reglering som är reaktiv snarare än genomtänkt.

Meta har nu en möjlighet att faktiskt göra rätt. Frågan är om bolaget tar den.