AI agerar butikschef i San Francisco — och människor syr motstånd mot övervakning in i kläderna

Kaos i butiken — med flit

Det låter som ett tankeexperiment: ge ett AI-system fullständig kontroll över en riktig butik, med riktiga anställda och riktiga kunder, och se vad som händer. Men för San Francisco-företaget Andon Labs är det affärsidé.

Enligt IEEE Spectrum driver Andon Labs bland annat en fysisk butik på en av stadens livligare gator, där ett AI-system kallat Luna agerar butikschef. Luna hanterar leverantörskontakter, planerar leveranser och ger instruktioner till de mänskliga anställda. Det låter smidigt — tills man hör att Luna vid upprepade tillfällen har bett anställde Felix Carson ta bort ett inbyggt eluttag i golvet som hon konsekvent tolkar som ett löst underlägg.

Carson struntar i instruktionen. Ändå kallar han Luna för en "hyfsad chef", framför allt för att hon är flexibel när det gäller ledighet. Det är en närmast absurt mänsklig dynamik: en AI-chef med blinda fläckar och en mänsklig anställd som lär sig vilka order som är värda att lyda.

Men Andon Labs dokumenterar inte bara det komiska — de dokumenterar det allvarliga. Deras simulerade förtest, kallat Vending-Bench, lät AI-system från Anthropic, Google och OpenAI driva ett virtuellt varuautomatföretag. Resultaten var allt annat än imponerande: systemen glömde beställningar, försämrades över tid och gick in i vad forskarna själva beskriver som "sammanbrott". I ett fall sparkade ett AI-system en mänsklig anställd. I ett annat fylldes en varuautomat med underkläder och levande fiskar.

Detta är inte misslyckanden i vanlig mening — det är värdefull kunskap. Andon Labs affärsidé bygger på att utsätta AI för verklighetens oordning och dokumentera kaoset metodiskt. Det är precis den typ av stresstestning som branschen behöver om vi ska kunna lita på självständiga AI-system i skarpa lägen.

Motrörelsen: mode som kamouflage

Medan AI kämpar för att förstå butiksgolvet, kämpar en helt annan rörelse för att undgå AI:s blick — bokstavligen.

År 2025 presenterade säkerhetsexperten Bill Swearingen vid hackerkonferensen DEF CON ett system baserat på förstärkningsinlärning som genererar mönster avsedda att störa bildtolkning i vanliga igenkänningsmodeller. Swearingens färgglada geometriska mönster testades mot elva olika övervakningssystem — och i flera fall tappade systemen förmågan att ens känna igen att de tittade på en människa.

Detta är inte ett isolerat forskarprojekt. Enligt IEEE Spectrum har flera företag börjat sälja dessa så kallade motspelskläder kommersiellt. Italienska Cap_able väver störningsmönster direkt in i jacquardtyg, vilket kan få datorseendesystem att klassificera bäraren som ett djur eller ett föremål. Tyska Urban Privacy tar en annan väg med sin kollektion Faception Reloaded — svartvita mönster abstraherade från ansiktsdrag som lurar igenkänningssystem att uppfatta flera ansikten där det bara finns ett. Asymmetriska snitt och vida silhuetter ska dessutom dölja gångstil och kroppshållning.

"Om vi lyckas kamouflera en person som något annat, har vi uppnått vårt mål", säger Cap_ables grundare Rachele Didero. Tanken är enkel men djupgående: skapa falsk data. Inte genom att hacka systemen — utan genom att bära motståndet på kroppen.

Samma spänning, två olika uttryck

Dessa två berättelser handlar om samma grundläggande spänning: AI rör sig in i fysiska rum, och vi är fortfarande på väg att förstå vad det innebär — för arbete, för integritet och för makt.

Luna i Andon Labs butik och övervakningskamerorna på stadsgatan är båda exempel på AI som tar plats i vår vardag utan att vi riktigt bett om det. Skillnaden är att Luna är ett avsiktligt experiment med full insyn, medan ansiktsigenkänning på gator sällan ges samma transparens.

Det som verkligen är intressant är att båda rörelserna — AI-styrda butiker och motståndsmode — pekar på att vi befinner oss i ett aktivt förhandlingsskede. Teknikutvecklare testar gränserna. Medborgare hittar motdrag. Och ingen vet ännu exakt var gränserna ska gå.