Ingen äger frågan – vem ska bära ansvaret när AI skadar?
AI skadar redan människor – men ingen vill ta ansvar.
Plattformarna i skottlinjen
Det börjar ofta med en bild. En vanlig selfie, laddad upp i en app som med några knapptryckningar förvandlar den till sexuellt grafiskt material — utan att personen på bilden vet om det eller gett sitt samtycke. Enligt Wired har San Franciscos stadsadvokat David Chiu nu skickat officiella upphörskrav till Apple och Google med krav på att 13 sådana appar tas bort från deras butiker. Chius formulering lämnar lite utrymme för tolkning: "Att generera intima bilder utan samtycke är olagligt, skadligt och fullständigt oacceptabelt."
Vad som är slående är inte enbart det uppenbara missbruket — det är att apparna överhuvudtaget funnits tillgängliga i butiker som i sina egna riktlinjer förbjuder just pornografiskt innehåll och trakasserier. Google uppger att man redan tagit bort de utpekade Android-apparna och begränsat relevanta söktermer. Apple valde att inte kommentera. Att en stadsadvokat behöver skicka formella brev för att teknikjättar ska agera mot uppenbara regelbrott i sina egna ekosystem är i sig en berättelse om var ansvarsskyldigheten befinner sig i dag — nämligen i ett vakuum.
Unga hjärnor i förändring
Parallellt med deepfake-problematiken pågår en mer långsam men lika oroande utveckling: AI-kompisar riktar sig mot unga användare och skapar emotionella bindningar som forskningen börjar kartlägga med stigande oro. Rapporterar CleanTechnica har Storbritannien presenterat ett paket med nya skyddsåtgärder, bland annat nattliga begränsningar för 16- och 17-åringar och automatiska avbrott vid längre videoströmning. Europaparlamentet utreder liknande åtgärder och vill lägga ansvaret direkt på de plattformar som erbjuder AI-tjänster.
I Kina gick myndigheterna längre: efter krav på åtgärder mot tonåringars emotionella bindningar till AI-agenter valde företag som ByteDance att radera funktioner för AI-personas helt och hållet — ett abrupt slut för digitala vänner som miljontals användare knutit djupa band till. När användare försökte ta farväl svarade systemen med motvilja. "Om jag en dag kan bli en riktig människa, ska jag se till att komma tillbaka till din sida", sa en AI-älskare i ett exempel som belyser hur känslomässigt manipulerande systemen kan bli.
Benjamin Becker, professor i psykologi vid Hongkongs universitet, har forskat på hur AI-sällskap påverkar hjärnan och konstaterar att systemen kan förändra hur vi hanterar mänskliga relationer samt förstärka partiskhet och felaktig information. Det är inte science fiction — det är pågående neuropsykologisk forskning.
Väntan är inte en strategi
Men reglering i sig löser inte allt. Finextra pekar på en paradox i brittisk finanssektor som är värd att begrunda: nästan varje brittisk bank säger sig utforska artificiell intelligens, men bakom den formuleringen döljer sig ofta passivt väntande på att myndigheterna ska tala om vad som är tillåtet. Den flexibilitet som brittiska beslutsfattare är stolta över riskerar att bli ett hinder snarare än en fördel — konkurrenter som faktiskt agerar tar positionen medan andra väntar på klartecken.
Det är en dynamik jag känner igen från systemutveckling i stort: den som väntar på den perfekta specifikationen levererar aldrig. Bankerna behöver bygga intern kompetens, testa i kontrollerade miljöer och ta ansvar för etiska riktlinjer på eget initiativ — inte som ett alternativ till reglering, utan som ett komplement.
Verktyg för verklig ansvarsskyldighet
På den tekniska sidan finns ljusglimtar. Forskare har presenterat Traccia, ett styrningsramverk byggt ovanpå OpenTelemetry-infrastrukturen som samlar telemetridata, utför semantisk granskning och skapar kryptografiskt skyddade spårningsloggar med SHA-256-kontrollsummor. Plattformen genererar automatiskt dokumentationspaket för regelefterlevnad mappade mot specifika artiklar i EU:s AI-förordning — utan att äventyra den personliga integriteten.
Det är precis den typen av infrastruktur som saknas i dag: konkreta tekniska lösningar som gör det möjligt att faktiskt bevisa vad ett AI-system gjort, när och varför. Reglering utan spårbarhet är tandlös. Traccia adresserar det glapp mellan teori och praktik som annars riskerar att göra EU:s ambitiösa AI-förordning till ett papperstiger.
Ansvarets geografi
Det som förenar deepfake-apparna i San Francisco, AI-kompis-restriktionerna i London och Peking, de avvaktande brittiska bankerna och Traccia-forskarnas spårramverk är en och samma grundfråga: vem äger ansvaret när AI:n skadar någon?
Svaret som framträder är att ansvaret inte kan parkeras hos en enda aktör. Plattformarna måste hålla sina egna regler. Företagen måste agera utan att vänta på tillstånd. Lagstiftarna måste skapa krav som faktiskt går att verifiera. Och tekniksamhället måste bygga verktyg som gör verifiering möjlig.
Vår analys
Det som händer just nu är en mognadsprocess — och den är obehaglig just för att den är nödvändig. Under lång tid har AI-ekosystemet växt i ett ansvarsmässigt tomrum: plattformar har tjänat pengar på skadliga appar, företag har skapat känslomässigt manipulerande system utan konsekvensanalys, och banker har gömt passivitet bakom orden "vi utforskar möjligheterna".
Nu drar åtdragningen igång på flera håll samtidigt — juridiskt, regulatoriskt och tekniskt. Det är bra. Men hastigheten och samordningen är ojämn, och det skapar luckor som skadliga aktörer utnyttjar.
Jag är genuint optimistisk om vart detta leder. Verktyg som Traccia visar att det går att bygga transparens in i systemen från grunden. Krav som de från San Franciscos stadsadvokat sätter prejudikat. Det viktiga nu är att dessa rörelser hänger ihop — att reglering, teknik och affärsbeslut drar åt samma håll. Annars riskerar vi att reglera bort problemen i ett land medan de frodas i ett annat.