AI snubblar på verkligheten – men kan ändå förändra vården

Rätt verktyg, fel uppgift – eller fel verktyg, rätt uppgift?

Det finns en frestelse att tala om AI i vården som ett enhetligt fenomen. Antingen är det revolutionerande, eller så är det överhypat. Men verkligheten är mer nyanserad – och mer intressant – än så.

Ta de senaste forskningsrönen som publicerats på arXiv. På ena sidan: en studie som visar att stora språkmodeller misslyckas på ett grundläggande sätt när de används för löpande kliniska bedömningar. På andra sidan: ett system som med imponerande träffsäkerhet hjälper läkare att navigera i komplexa forskningssammanställningar. Samma teknologifamilj. Vitt skilda resultat. Det berättar oss något viktigt om hur vi använder AI, inte bara om AI:s kapacitet i sig.

När AI inte håller jämna steg med verkligheten

Internmedicin och intensivvård är miljöer där patienters tillstånd förändras från timme till timme. Att en AI-modell kan göra en initial bedömning är en sak – att den ska uppdatera sin bedömning på ett tillförlitligt sätt när ny data strömmar in är en helt annan utmaning.

Enligt den aktuella studien, baserad på journaldata från intensivvårdsavdelningar, ökar språkmodellerna sina felbedömningar snarare än minskar dem när de tar hänsyn till sina egna tidigare slutsatser. Det är ett formbetingat problem: modellerna är oproportionerligt påverkade av sina egna tidigare riskuppskattningar. En tidigare bedömning på 90 procents risk jämfört med 10 procent förskjuter nya estimat med hela 26 procentenheter – trots identisk aktuell patientdata. Det är inte ett litet avvikelsevärde. Det är kliniskt farligt.

Forskarna bakom studien har utvecklat en metod, kallad EVLU, som identifierar färre men mer tillförlitliga revisioner. Det är lovvärt – men det understryker också att problemet är reellt och att det krävs särskilda skyddsmekanismer för att hantera det.

Detta är inte ett argument mot AI i vården. Det är ett argument för att vi måste vara precisa i vilka uppgifter vi tilldelar AI-system.

Där AI faktiskt levererar: transparens och kunskapstillgång

På samma arXiv publicerades nyligen nyheter om FD-SCoPE, ett ramverk som gör något annat: det hjälper kliniker att söka och granska sammanställningar av kliniska studier på ett transparent och spårbart sätt. Varje slutsats åtföljs av en tydlig förklaring av hur den nåtts – ett krav som är avgörande för att läkare faktiskt ska kunna lita på och använda systemet.

Resultaten är anmärkningsvärda. I ett test mot en onkologidatabas med 159 studier av immunkontrollpunktshämmare genomförde systemet 140 kliniska frågeuppgifter med en träffsäkerhet på mellan 90,7 och 97,9 procent. Det överträffade fyra alternativa metoder, och förbättrade sina resultat ytterligare med hjälp av återkoppling från experter – precisionspoängen steg från 77,9 till 84,9 procent.

Detta är AI som förstärker läkarens kompetens snarare än ersätter den. Systemet löser ett verkligt och välkänt problem: den enorma klyftan mellan tillgänglig medicinsk forskning och vad en enskild kliniker faktiskt hinner läsa och tillgodogöra sig.

Den avgörande distinktionen

De två studierna tillsammans erbjuder en karta för hur vi bör tänka om AI i vården just nu. Det finns uppgifter där AI är mogen nog att tillföra verkligt värde: informationssökning, kunskapssyntes, transparenta beslutsstöd som håller läkaren i förarsätet. Och det finns uppgifter där vi ännu inte är framme: autonoma, löpande bedömningar i miljöer med hög komplexitet och snabbt föränderliga förutsättningar.

Det är inte ett bakslag. Det är en kalibrering. Och det är precis den typ av kalibrering som mogen teknikutveckling kräver.

De organisationer och sjukhus som kommer lyckas med AI-omställningen är de som inte frågar 'ska vi använda AI?' utan 'för vilken specifik uppgift, under vilka förutsättningar, med vilka skyddsmekanismer?'. Det är en strategisk fråga – och svaret är alltid kontextberoende.