Du söker en klänning – Amazon visar upp en som inte finns

Fantasiprodukter i sökresultaten

Föreställ dig att du söker efter en blårutig klänning på Amazon. Bland resultaten dyker det upp ett antal snygga plagg – olika ärmlängder, olika snitt, precis vad du hade i tanken. Du klickar. Och inser att plagget inte existerar.

Det är ingen bugg. Det är en funktion.

Som både TechCrunch och The Verge rapporterar testar Amazon just nu ett system där AI genererar bilder på fiktiva produkter direkt i shoppingappen. Tanken är välmenande: många kunder vet ungefär vad de vill ha men saknar orden för att beskriva det. Genom att visa upp datorskapade varianter ska systemet hjälpa användaren att ringa in sin önskan och sedan guida dem mot verkliga alternativ som liknar de genererade bilderna.

I teorin låter det som ett smart gränssnittsproblem som lösts med kreativ teknik. I praktiken är det ett experiment som rymmer en hel del fallgropar.

Förväntningarnas klyfta

Det mest uppenbara problemet är vad jag skulle kalla förväntningarnas klyfta – det avstånd som uppstår mellan vad en användare tror sig se och vad som faktiskt finns att beställa. En kund som inte läser fotnoten, eller som snabbt scrollar förbi, kan mycket väl uppfatta de AI-skapade bilderna som riktiga produkter. Besvikelsen när det visar sig att det snygga plagget inte går att köpa riskerar att erodera det förtroende som Amazon ägnat decennier åt att bygga upp.

The Verge pekar på att Amazon inte är ensamma om att utforska generativ artificiell intelligens i handelsmiljöer, men att visa upp produkter som överhuvudtaget inte finns är ett steg längre än att ge personliga köpförslag baserade på befintligt sortiment. Det är en distinktion som spelar roll.

Amazon har sedan tidigare framgångsrika AI-satsningar att luta sig mot – bland annat en funktion som sammanfattar kundrecensioner och ger en snabb överblick över produkters för- och nackdelar. Den funktionen löser ett verkligt problem utan att skapa falska förväntningar. Den nya bildgeneratorn känns mer som ett tekniskt experiment på jakt efter ett problem att lösa.

Teknikjättarna och det tomma löftet

Amazons experiment bör ses i ett bredare sammanhang. The Verge lyfter i en parallell analys fram hur teknikbolag under lång tid marknadsfört produktivitetsverktyg som lösningen på den stress och det informationsöverflöd som samma bolag bidragit till att skapa. AI-assistenter som känner till dina familjemedlemmars förnamn utan att du uppgett dem – som i fallet med Googles Gemini Spark – är imponerande ur ett tekniskt perspektiv. Men frågan om vad vi egentligen löser, och för vem, förblir obesvarad.

Det finns ett mönster här som är värt att hålla i minnet: när tekniken blir tillräckligt övertygande tenderar gränsen mellan hjälpsam och manipulativ att bli suddig. En AI som genererar produktbilder gör det med ett syfte – att hålla dig kvar i flödet, att hjälpa dig formulera en önskan du kanske inte ens visste att du hade, och i förlängningen att få dig att handla.

Vem skyddar konsumenten?

Här är konsumentskyddet fortfarande i otakt med tekniken. Brittiska tillsynsmyndigheter har redan börjat rikta krav mot Google kring hur AI påverkar sökning och konkurrens – ett tecken på att regleringen börjar röra sig, om än långsamt.

Jag är genuint entusiastisk över vad AI kan göra för e-handelns användbarhet. Bättre sökning, smartare produktrekommendationer, tillgänglighet för den som har svårt att sätta ord på vad hen letar efter – allt det är verkliga vinster. Men de vinsterna kräver transparens. Om en bild föreställer en produkt som inte finns måste det framgå tydligt och omedelbart, inte döljas i en fotnot.

Amazons funktion är inte i sig farlig. Men den är ett tidigt test av vart ribban sätts – och den ribban kommer att påverka hur hela branschen beter sig framöver.