Studie: Vårdpersonal i Storbritannien använder Google Translate okritiskt — medicinska förkortningar kan ge farliga felöversättningar

När tekniken springer ifrån ansvaret

Det finns en sorts teknisk optimism som är genuint farlig. Inte den välgrundade entusiasmen för vad AI kan åstadkomma — utan den oreflekterade tilliten till att ett digitalt verktyg automatiskt är tillräckligt bra för uppgiften. En ny studie publicerad på arXiv illustrerar detta på ett sätt som borde ge alla inom hälso- och sjukvård anledning att stanna upp.

Forskarna granskade hur vårdpersonal i Storbritannien använder maskinöversättning — och framför allt Google Translate — för att kommunicera med patienter som inte talar engelska. Resultaten är oroande. Av de 21 intervjuade vårdanställda, från olika roller och specialiteter, visade sig de flesta sakna grundläggande medvetenhet om de risker som uppstår när känslig medicinsk information tolkas av en algoritm.

Förkortningar som kan kosta liv

Studiens val av fokusområde är träffsäkert. Forskarna valde medicinska förkortningar som studieobjekt — och av goda skäl. Dessa är välkända problemkällor redan på originalspråket. En felläst förkortning i en patientjournal kan leda till fel medicinering, fel diagnos, eller i värsta fall patientens död. Presenterade för franska och spanska kliniska exempel, översatta via Google Translate, hade personalen i stor utsträckning ingen aning om att översättningarna kunde vara direkt missvisande.

Det handlar inte om att vårdpersonalen är slarvig eller okunnig inom sitt medicinska fält. Det handlar om att ett lättillgängligt konsumentverktyg — byggt för att hjälpa turister förstå menyer och skyltar — har sömlöst glidit in i en kontext det aldrig var designat för. Och ingen har satt stopp för det.

En spegel för en bredare utmaning

Jag vill vara tydlig: detta är inte ett argument mot AI i vården. Tvärtom ser jag enorma möjligheter med välimplementerade AI-lösningar inom diagnostik, administration och patientkommunikation. Men det är just ordet välimplementerade som är avgörande.

Det vi ser här är ett klassiskt exempel på vad som händer när teknik skalas horisontellt utan att organisationer hinner med vertikalt — det vill säga utan att bygga upp kunskap, riktlinjer och ansvarsstrukturer som matchar verktygsutnyttjandet. Google Translate är ett kraftfullt hjälpmedel i rätt sammanhang. I ett kliniskt sammanhang, utan medicinsk validering och utan tydliga protokoll, blir det en riskfaktor.

Detta är inte unikt för vården. Vi ser samma mönster inom juridik, finans och utbildning — sektorer där AI-verktyg sprids nerifrån och upp, driven av individuell bekvämlighet snarare än strategisk styrning. Skillnaden i vården är att konsekvenserna av fel kan vara oåterkalleliga.

Vad krävs nu?

Studien understryker behovet av tydliga riktlinjer för när och hur maskinöversättning får användas inom hälso- och sjukvård. Men riktlinjer räcker inte i sig. Det behövs också:

• Utbildning som ger vårdpersonal faktisk förståelse för vad maskinöversättning kan och inte kan göra
• Validerade alternativ — det finns faktiskt medicinsk översättningsprogramvara som är tränad på kliniska data och som håller en väsentligt högre kvalitetsnivå
• Tydligt ansvarsutkrävande — vem bär ansvaret om en felöversättning leder till en vårdskada? Idag är den frågan obesvarad i de flesta organisationer
• Systemstöd som gör det lika enkelt att göra rätt som att göra fel

Det ironiska är att lösningen mycket väl kan vara mer AI — men rätt sorts AI, med rätt sorts styrning. Specialiserade språkmodeller tränade på medicinsk terminologi, integrerade i journalsystem med spårbarhet och mänsklig granskning, är en rimlig väg framåt.

Men det kräver att sjukvårdsorganisationer slutar behandla AI-verktyg som en sidovagn och börjar behandla dem som det de faktiskt är: kritisk infrastruktur som kräver samma omsorg och reglering som vilken annan medicinteknisk produkt som helst.