Sjukvårdens specialanpassade AI-verktyg presterar sämre än generella språkmodeller – ansvarsfrågan förblir olöst
Dyra medicinska AI-verktyg slås av gratismodeller – och ingen tar ansvar.
Drömmen om det smarta sjukhuset möter verkligheten
Det är lätt att bli upprymd av löftena. AI som frigör läkartid, minskar utbränning, förbättrar diagnoser och demokratiserar tillgången till vård. Som affärsutvecklare ser jag transformationspotentialen tydligt – och jag tror genuint på den. Men de senaste veckornas nyhetsflöde från hälso- och sjukvårdssektorn påminner oss om att teknik utan ansvarssystem inte är innovation. Det är ett vågspel med mänskliga liv.
Låt oss börja med det som kanske är veckans mest obehagliga fynd. En studie publicerad i den ansedda tidskriften Nature Medicine, genomförd av forskare vid NYU Langone Health, visar att specialanpassade kliniska AI-verktyg – produkter från företag som OpenEvidence och UpToDate Expert AI – presterade sämre än generella storspråksmodeller på medicinska frågeställningar. Det är anmärkningsvärt. Tillverkarna har länge marknadsfört sina produkter som ett säkrare alternativ just för att de är specialtränade för medicinska sammanhang. Hundratusentals amerikanska läkare litar på dessa verktyg dagligen, rapporterar STAT.
Nu finns det skäl till försiktighet med hur vi tolkar resultaten. Som STAT:s hälsoteknikkorrespondent Katie Palmer påpekar är enskilda prestandajämförelser sällan heltäckande – de destilleras till rubriker som döljer metodval och sammanhang. En enskild mätning berättar inte hela historien om ett systems faktiska kliniska nytta. Men det ändrar inte det grundläggande problemet: om specialisering inte garanterar överlägsna resultat, på vilken grund väljer kliniker sina verktyg?
Regleringen halkar efter – men vaknar nu
Parallellt med dessa fyndigheter pågår ett regulatoriskt uppvaknande på flera fronter simultaneously.
I USA är Federation of State Medical Boards tydliga i sin ståndpunkt: AI är inte redo att praktisera medicin självständigt. En läkarlicens är inte bara ett tillstånd att ge välgrundade svar – det är ett rättsligt och etiskt mandat kopplat till mänskligt omdöme och ansvar. Trots det har lagstiftare i delstaterna Idaho och Iowa faktiskt lagt fram förslag om separata licensnämnder för autonoma AI-system. Båda förslagen föll, men deras existens är ett tidstecken.
I Storbritannien granskar läkemedelsmyndigheten om AI-sekreterare – program som transkriberar och sammanfattar läkarbesök – bör klassificeras som medicinska hjälpmedel, enligt STAT. Det skulle innebära betydligt skarpare krav på säkerhetsdokumentation och kliniska prövningar. Introduktionstakten kan bromsas, men patientsäkerheten stärkas. Det är ett rimligt avvägande.
Och från amerikansk sida stänger Medicare nu dörrarna för ett kryphål som länge gynnat medicintekniska tillverkare. Från och med budgetåret 2028 måste produkter med FDA:s beteckning "banbrytande medicinsk utrustning" faktiskt bevisa sin kliniska nytta för att kvalificera sig för tilläggsersättningar. Det är en välkommen skärpning.
Bakom stängda dörrar – vem formar reglerna?
Samtidigt väcker den process genom vilken reglerna formas egna frågor. Den 8 juli höll FDA ett slutet demonstrationsevenemang vid sitt huvudkontor i White Oak, dit tio AI-företag bjöds in – däribland Anthropic, Microsoft AI, Amazon One Medical och Hippocratic AI. Syftet var att ge myndighetstjänstemän direktupplevelse av klinisk AI i praktiken.
Men det faktum att mötena hölls utan offentlig insyn väcker legitima frågor, rapporterar STAT. När branschens egna aktörer bjuds in att forma sin egen reglering, finns en uppenbar risk att bredare samhällsperspektiv – patientorganisationer, oberoende forskare, sjuksköterskor – faller bort.
Utbildningens tysta förlust
En dimension som sällan hamnar i rubrikerna är vad AI-verktygens intåg gör med nästa generation läkare. Yale School of Medicine:s vicedekanus Jaideep Talwalkar sätter fingret på problemet: att skriva en journal är inte en administrativ uppgift. Det är en intellektuell process som tvingar den blivande läkaren att strukturera sin kliniska bedömning. Överlämnar studenterna detta till algoritmer under sina formativa år, riskerar de att aldrig bygga upp den kliniska intuition som komplexa patientfall kräver.
Ramy Farid, vd för läkemedelsteknikföretaget Schrödinger, ger oss kanske det bästa perspektivet på var vi befinner oss just nu: vi är i en period av överdrivet höga förväntningar. Inom fem år kommer bilden att klarna – vi får en bättre förståelse för vad AI faktiskt klarar av och vad det inte mäktar med. Det är inte ett misslyckande. Det är mognad.
Vår analys
Det som pågår i sjukvårdens AI-landskap just nu är inte en bromsning – det är en nödvändig kalibrering. Och ur ett affärsperspektiv är det faktiskt goda nyheter på lång sikt.
De aktörer som överlever den kommande regulatoriska skärpningen är de som byggt sina produkter på bevisad klinisk nytta snarare än på marknadsföringsberättelser. Medicares nya krav på dokumenterad effekt från 2028 rensar bort opportunister och stärker trovärdigheten för hela sektorn. Det gynnar seriösa investerare och seriösa patienter.
Ansvarsfrågan – vem bär skulden när AI gör fel i vården – är fortfarande olöst. Men riktningen är tydlig: ansvaret kommer att följa graden av mänsklig tillsyn. Det innebär att läkaren förblir navet, och att AI:s roll är att förstärka – inte ersätta – det mänskliga omdömet.
Den organisation som förstår detta redan idag har ett kraftfullt konkurrensförsprång i morgondagens reglerade vårdmarknad.