AI designar virus och ställer diagnoser – men sjukvårdens revolution kommer med allvarliga risker
AI skapar virusdödare mot resistenta bakterier – men medicinens revolution bär farliga risker.
Medicinens AI-revolution accelererar – och spänningarna växer
Det är sällan tre forskningsnyheter landar nästan samtidigt och berättar en så sammanhållen historia om var vi befinner oss. Den här veckan fick vi tre sådana. Tillsammans målar de en bild av en sjukvårdssektor i verklig transformation – med allt vad det innebär av löften, komplexitet och ansvar.
Stanford skapar liv för att rädda liv
Låt oss börja med det som närmast liknar science fiction. Forskare vid Stanford University har med hjälp av den generativa AI-modellen Evo 2 syntetiserat nästan 300 bakteriofager – virus som angriper och dödar bakterier. Av dessa visade sig 16 vara särskilt kraftfulla mot tarmbakterien E. coli, rapporterar AI News.
Detta är inte ett litet steg. Antibiotikaresistens är en av vår tids mest akuta folkhälsokriser, och klassiska läkemedelsutvecklingsmodeller kämpar för att hålla jämna steg. Evo 2 genererade tusentals DNA-sekvenser utifrån ett kort startavsnitt – utan att forskarna behövde mata in ytterligare information. Doktoranden Samuel King utvecklade sedan ett beräkningsramverk för att sålla kandidaterna innan kemisk syntes och laboratorietestning tog vid.
Det strategiskt smarta är att man valde ut sexton olika fager snarare än en. Bakterier är mästare på att snabbt utveckla motståndskraft, men mot en blandning av fager är det exponentiellt svårare. Det är inte bara forskning – det är ett designtänk som vittnar om att AI-eran börjar producera verkligt systemkunniga lösningar.
Cancerdiagnostik som talar ditt språk
Samtidigt presenterar Paige och Microsoft resultaten för PRISM2 – en AI-modell som analyserar hela vävnadsbilder och svarar på diagnostiska frågor i naturligt språk, snarare än att enbart klassificera bildpunkter. Tränad på 2,3 miljoner vävnadsbilder och drygt 685 000 patologirapporter från Memorial Sloan Kettering Cancer Center, beskriver AI News hur modellen förmår matcha specialiserade cancerverktyg i sina bedömningar.
Det som verkligen fångar min uppmärksamhet är arkitekturen. PRISM2 tränas med två förlustkoder samtidigt – en kontrastiv och en autokorrelativ – för att undvika att bli bra på antingen sökning eller textgenerering, men inte båda. Det är en mogen ingenjörsmässig avvägning. Och det faktum att modellen kan föra en klinisk dialog kring bilderna, snarare än bara lämna ett svar, öppnar för ett genuint samarbete mellan AI och patolog.
Detta handlar inte om att ersätta specialister. Det handlar om att göra specialistkunskap tillgänglig i delar av världen – och delar av sjukvården – där den annars inte finns.
Men tekniken har en mörk sida vi inte får ignorera
Här kommer den nödvändiga motvikten. En studie publicerad i Nature Medicine, ledd av MIT i samarbete med bland annat Stanford, visar att AI-förklaringsverktyg i sjukvården kan ge kraftigt olika – och ibland direkt skadliga – utfall beroende på användarens förkunskaper, enligt AI News.
Resultaten bör väcka alla som jobbar med AI-implementering i vården. Lekmän förbättrade sin diagnostiska träffsäkerhet med AI-stöd, men mest för att de litade blint på systemet. Allmänläkare presterade bäst när de fick en AI-prognos utan någon förklaring alls. Och det allvarligaste: användare som fick felaktiga svar i löptext rapporterade högre självförtroende i sina felaktiga bedömningar. Vaga förklaringar upplevdes paradoxalt nog som mer övertygande.
– Vi vet att både AI och förklaringsmetoder kan trigga automatiseringspartiskhet hos människor, och denna förankringseffekt måste beaktas när vi utformar AI-system, säger Marzyeh Ghassemi, biträdande professor vid MIT.
Detta är inte ett argument mot AI i vården. Det är ett argument för att gränssnitt och förklaringsmodeller måste anpassas efter vem som använder dem. En patolog och en patient behöver fundamentalt olika stöd från samma underliggande system.
Tre nyheter, ett budskap
Det som förenar dessa tre genombrott är att de alla visar AI i full kraft – och att makten kräver precision. Evo 2 bevisar att generativ AI kan designa biologiska lösningar vi inte ens visste hur vi skulle söka efter. PRISM2 visar att klinisk kunskap kan göras tillgänglig i dialog snarare än slutsats. Och MIT påminner oss om att ett kraftfullt verktyg i fel händer – eller med fel gränssnitt – kan göra mer skada än nytta.
Det är exakt den här balansen som avgör om AI-omställningen i sjukvården blir ett civilisationssprång eller en besvikelse.
Vår analys
Dessa tre nyheter tillsammans illustrerar var vi faktiskt befinner oss i AI-resan inom sjukvården: tekniken är redo långt innan systemen, processerna och gränssnitten är det. Stanford och Paige-Microsoft visar att den vetenskapliga potentialen är enorm – det handlar inte längre om om AI kan bidra till medicinsk forskning och diagnostik, utan om hur snabbt vi kan skala det ansvarsfullt.
MIT-studien är den viktigaste påminnelsen om att teknisk förmåga och praktisk nytta inte är samma sak. Att bygga en AI som är korrekt 90 procent av tiden räcker inte om gränssnittet gör att användaren inte kan skilja de 10 procenten från resten.
Utvecklingen leder mot en sjukvård där AI är en naturlig del av varje diagnostiskt flöde – men framgångsfaktorn kommer inte vara modellernas träffsäkerhet. Det kommer vara hur väl vi designar samspelet mellan människa och maskin, anpassat efter kompetens, kontext och risk. Det är där nästa generations genombrott väntar.