Äldre osynliggörs i AI-styrd stadsplanering – och vem äger rätten att tolka dina känslor?
AI-system osynliggör äldre i stadsplaneringen – och tolkar dina känslor utan lov.
AI-forskning är inte längre bara för forskarvärlden
Det är lätt att drunkna i flödet av AI-artiklar från arXiv. Mycket är tekniskt, abstrakt och långt från det som händer utanför laboratoriet. Men ibland – och det händer oftare nu – dyker det upp forskning som faktiskt borde hamna i tidningarnas samhällssidor snarare än i tekniktidskrifternas fotnötter.
Den här veckan är ett sådant tillfälle.
Staden planeras för unga – äldre osynliggörs
En ny studie baserad på cykeldelningsdata från Jersey City (2016–2020) visar något som borde skaka om stadsplanerare och beslutsfattare världen över: AI-modeller som används för att modellera hur människor rör sig i städer är systematiskt partiska mot äldre.
Problemet är strukturellt. Äldre är kraftigt underrepresenterade i de dataset som används för att träna modellerna – och när modellerna sedan guidas av den befolkningsdominerade datan uppstår mätbara fel. Äldres steglängd överskattades med 4,5 procent och deras vistelsetid med hela 8,9 procent. Det låter kanske som marginaler, men i stadsplanering är det skillnaden mellan en busshållplats på rätt ställe eller ett kvarter för långt bort.
Det som gör studien extra tankeväckande är en central slutsats: mer avancerade AI-modeller löser inte problemet automatiskt. Inte ens en stor språkmodell som Qwen3-4B klarade att kompensera för att äldre helt enkelt inte syns i träningsdatan. Lösningen är inte mer sofistikerade algoritmer – det är mer inkluderande datainsamling.
Vem bestämmer vad du känner?
Parallellt med stadsplaneringsfrågan presenterar ny forskning på arXiv något som jag menar är en av de viktigaste etikfrågorna inom AI just nu: vem har rätten att tolka dina känslor?
Känslo-tolkande AI byggs nu in i bilar, hushållsapparater och sociala tjänster. Tekniken kan med hög teknisk säkerhet identifiera mönster i ansiktsuttryck, röst och beteende. Men forskarna pekar på vad de kallar det epistemiska gapet – klyftan mellan det systemet tekniskt kan mäta och vad en känsla faktiskt innebär för en enskild individ.
Ur detta härleder de principen om affektiv självbestämmanderätt: rätten att själv äga tolkningsrätten över sina egna känslor. Det är ett begrepp som förtjänar att tas in i EU:s AI-lagstiftning, i företags etikpolicyer och i varje organisations inköpsbeslut när de överväger känslo-AI i personalhantering eller kundkontakt.
Detta är inte en teoretisk akademisk diskussion. Det är en fråga om makt.
AI som kan rädda liv – bokstavligen
På den mer omedelbart konstruktiva sidan presenteras DDIAgents, ett nytt system för att förutsäga farliga läkemedelsinteraktioner. Systemet bygger på ett flerагентramverk där en planeringsagent koordinerar ett nätverk av specialiserade agenter, var och en med tillgång till relevanta kunskapskällor beroende på det aktuella interaktionsmönstret.
Resultaten är imponerande: i tester på verklighetstrogna datamängder överträffar DDIAgents befintliga metoder – oavsett om dessa bygger på traditionella egenskaper, grafstrukturer eller andra agentbaserade lösningar. Och kanske viktigast av allt: systemets slutsatser är förklarbara, inte svarta lådor.
Farliga läkemedelsinteraktioner är ett underskattat folkhälsoproblem. Felpolicyer drabbar äldre patienter hårdast – ironiskt nog precis den grupp som stadsplaneringsstudien visade är underrepresenterad i AI-träningsdata. Att ett system nu kan förutsäga dessa interaktioner med hög träffsäkerhet och ge läkare tolkningsbara motiveringar är ett steg mot AI som faktiskt är ett verktyg i vårdens händer, inte bara ett experiment i ett laboratorium.
Det gemensamma mönstret
Dessa tre studier delar ett tema som jag tror är avgörande för AI-omställningens legitimitet: forskning som tar ansvar för konsekvenser, inte bara prestanda. Det räcker inte att en modell är tekniskt skicklig. Den måste vara rättvis, transparent och respektera individens rätt – vare sig det handlar om en 75-årig pensionär i Jersey City, en förare vars humör läses av bilens instrumentbräda, eller en patient med tio läkemedel i fickan.
Vår analys
Det som förenar denna veckas forskning är en mognadsresa för hela AI-fältet. Vi rör oss bort från frågan kan AI göra detta? mot den mer krävande frågan bör AI göra detta, och för vem?
Stadsplaneringsstudien är ett praktexempel på hur partiskhet i träningsdata inte är ett tekniskt problem – det är ett politiskt val om vems verklighet som räknas. Känslo-AI-forskningen sätter fingret på en maktfråga som lagstiftare hittills undvikit att ta tag i ordentligt. Och DDIAgents visar att när AI designas med förklarbarhet och samarbete som grundprinciper kan tekniken leverera verkligt värde i livskritiska miljöer.
För organisationer som investerar i AI just nu är budskapet tydligt: datarättvisa, förklarbarhet och individens rätt att ifrågasätta systemets slutsatser är inte kostnader – de är grundförutsättningar för långsiktig trovärdighet och samhällsacceptans. Det är där de kloka affärerna görs.