Algoritmen sätter dödsstämpeln – men vem bär ansvaret när den har fel?

När algoritmen sätter etiketten

Det finns beslut inom sjukvården som är så tungt vägande att de kräver erfarna läkare, etikkommittéer och djupa samtal med patienter och anhöriga. Frågan om när en patient befinner sig i livets slutskede är ett sådant beslut. Nu rapporterar STAT News att just den typen av bedömning alltmer överlåts till — eller åtminstone färgas av — ett automatiserat prognosverktyg.

Epics dödlighetsmodell är i dag ett av de mest spridda AI-verktygen inom sjukvården i USA. Systemet analyserar patientdata i realtid och beräknar risken för att en patient ska avlida inom en definierad tidsram. Tanken är god: bättre beslutsunderlag, tidigare insatser, mer träffsäker resursfördelning. Men inom geriatriken — vården av äldre — uppstår en rad komplicerade frågor som inte låter sig besvaras av ett procenttal.

Äldre patienter är inte ett genomsnitt

Äldre patienters vårdbehov är notoriskt svårförutsägbara. En 83-åring med tre samtidiga diagnoser, nedsatt njurfunktion och social isolering är inte ett statistiskt medelvärde — hon är en människa vars tillstånd kan förändras dramatiskt från dag till dag. Det är just i den komplexiteten som AI-modeller historiskt sett har visat sig bristfälliga.

Forskare och etiker har länge varnat för att träningsdata inom sjukvård speglar historiska ojämlikheter. Om äldre patienter, eller specifika patientgrupper, systematiskt har fått sämre vård eller dokumenterats på ett visst sätt, riskerar algoritmen att befästa — snarare än korrigera — den partiskheten. I värsta fall innebär det att en patient som faktiskt är behandlingsbar klassificeras som döende, och att vården anpassas därefter.

Det är inte ett hypotetiskt scenario. Det är en reell risk som nu granskas på allvar.

Relevansen för Sverige är omedelbar

Epic är inte enbart ett amerikanskt fenomen. Systemet används av ett växande antal sjukhus även i Norden, och ambitionerna att expandera på den svenska marknaden är välkända inom branschen. Det innebär att de etikfrågor som nu debatteras i USA är högst relevanta även för svenska vårdgivare, regioner och beslutsfattare.

I Sverige regleras AI-användning inom vård av ett lapptäcke av lagar — patientdatalagen, medicintekniska förordningar och EU:s AI-förordning som nu träder i kraft gradvis. Men regelverket är fortfarande i rörelse, och det råder brist på tydliga prejudikat för hur prognosverktyg av det här slaget ska valideras, granskas och kommuniceras till patienter.

Vem informerar den äldre patienten om att en algoritm har bedömt hennes överlevnadschans? Vem bär ansvaret om prognosen är fel och vården begränsas i onödan?

Möjligheten är verklig — men kräver ärlighet

Jag vill vara tydlig: AI-stöd inom vården har enorm potential. Rätt designat och rätt använt kan ett prognosverktyg frigöra tid för läkare, möjliggöra tidigare palliativa samtal och hjälpa patienter att fatta välgrundade beslut om sin vård. Det är inte verktyget i sig som är problemet.

Problemet uppstår när ett prognostal behandlas som ett facit snarare än som ett av flera beslutsunderlag. När algoritmen osynliggörs för patienten. När ansvaret för ett kliniskt beslut smyger sig över från en ansvarig läkare till ett poängsystem ingen riktigt förstår.

Den verkliga frågan är inte om vi ska använda AI i äldrevården. Den frågan är redan besvarad. Frågan är hur vi använder den — med vilken transparens, vilken tillsyn och vilket genuint ansvar för de människor som berörs.