AI höjer sjukhusnotan – utan att ge ett uns mer vård
Sjukhus använder AI för att höja räkningar – inte för att bota patienter.
AI i sjukvårdens skugga: Effektivitet som tjänar systemet, inte patienten
Det borde vara en självklarhet: ett AI-verktyg inom sjukvården ska hjälpa patienter att bli friskare. Men verkligheten, som målas upp av en läkare i den amerikanska facktidskriften STAT Health Tech, är mer obehaglig än så.
Försäkringsjätten Blue Cross Blue Shield slog nyligen larm om en utbredd metod bland amerikanska sjukhus – inom branschen känd som "bump coding". Metoden innebär att automatiserade AI-verktyg systematiskt söker igenom patientjournaler för att identifiera bidiagnoser – exempelvis låga natriumvärden, blodbrist eller undernäring – som sedan dokumenteras för att motivera högre ersättningar från försäkringsbolagen. Resultatet? Hundratals miljoner dollar i ökade kostnader för BCBS under bara två år. Kostnader som ytterst hamnar på patienternas bord i form av högre premier.
Läkaren som delar sin erfarenhet beskriver hur hen redan tidigt i utbildningen bombades med automatiserade påminnelser från sjukhusets riskspecialister: dokumentera bidiagnoserna, ange om de övervakas, utreds eller behandlas. Till slut valde hen att lösa problemet med ett eget automatiserat verktyg – ett som skannade journalerna och flaggade relevanta tillstånd. Uppgifterna var korrekta. Men syftet var inte bättre vård. Det var en högre faktura.
Detta är inte ett tekniskt fel. Det är ett målsättningsfel. AI-systemen gör precis vad de är programmerade att göra – de optimerar för ersättningsnivå, inte för patientnytta. Och det är just den distinktionen som gör situationen så allvarlig.
Mänsklig sårbarhet som attackyta
På en helt annan front pågår en parallell kamp om kontroll och förtroende. Rapporterar SecurityWeek att sociala manipulationsattacker – där angripare utger sig för att vara betrodda personer för att lura sig till åtkomst eller känslig information – fortsätter att vara ett av de mest framgångsrika angreppssätten mot organisationer, trots massiva investeringar i utbildning av personal.
Exemplen är svåra att blunda för. Vid kasinointrången i Las Vegas 2023 ringde angripare från gruppen Scattered Spider till MGM Resorts hjälpdesk, utgav sig för att vara anställda och lyckades återställa lösenord och kringgå flerfaktorsautentisering. Konsekvensen: tio dagars driftstopp och en uppskattad kostnad på 100 miljoner dollar. Caesars Entertainment tros ha betalat 15 miljoner dollar i utpressning. Så sent som i augusti 2026 drabbades Brinks Home av en liknande attack, där gruppen ShinyHunters via telefonbedrägeri övertygade en helpdeskanställd att slutföra ett autentiseringssteg – och fick omedelbar tillgång till nästan fem miljoner kunduppgifter.
Svaret som branschen nu söker är realtidsdetektering av manipulation under pågående samtal – färgkodade varningssystem som analyserar röst, ordval och beteendemönster och larmar innan skadan är skedd. Det är AI som motmedel mot AI-förstärkta bedrägerier.
Samma grundproblem – två uttryck
De två nyheterna verkar inte ha något med varandra att göra. Men skrapar man lite på ytan framträder ett gemensamt mönster.
I sjukvårdsexemplet används AI för att optimera ett mätvärde – ersättningsnivån – som är enkelt att kvantifiera men som inte speglar det faktiska värdet av vård. Systemet belönar dokumentation, inte tillfrisknande.
I säkerhetsexemplet utnyttjar angriparna det faktum att mänskliga hjälpdeskmedarbetare är optimerade för hjälpsamhet – och att den optimeringslogiken är lika förutsägbar som en algoritm. Resultatet är detsamma: systemet används mot sitt eget syfte.
Det är ett viktigt påminnelse för oss som arbetar med AI-transformation i affärssammanhang. Tekniken är inte neutral – den förstärker de incitament som redan finns inbyggda i systemet. Om incitamenten är felkonstruerade, levererar AI fel resultat med enastående effektivitet.
Vad detta kräver av oss
Det vore enkelt att läsa dessa nyheter som argument mot AI. Det är de inte. De är argument för bättre målstyrning, tydligare reglering och ärligare incitamentstrukturer.
Sjukvårdens ersättningssystem behöver reformeras så att det mäter patientnytta, inte diagnosvolym. Säkerhetsrutiner behöver kompletteras med realtidsstöd som faktiskt kan hålla jämna steg med de angripare som nu förstärker sina metoder med AI.
Tekniken kan vara lösningen – men bara om vi är lika noggranna med att definiera vad vi vill uppnå som vi är med att implementera verktygen som ska uppnå det.
Vår analys
De här nyheterna bör läsas som ett tidigt varningstecken – inte mot AI, utan mot den naiva tilltron att tekniken automatiskt optimerar för rätt saker.
När AI rullas ut i komplexa system – sjukvård, säkerhet, finans – ärver den de incitamentstrukturer som redan finns på plats. Om sjukhusets ekonomimodell premierar diagnosvolym, kommer AI att leverera diagnosvolym. Om helpdeskkulturen prioriterar snabb hjälpsamhet, kommer angripare att utnyttja just det.
Det vi bevittnar är inte ett tekniskt misslyckande – det är ett styrningsunderskott. Och det är här den verkliga möjligheten ligger: organisationer som bygger tydliga etiska ramverk, mätbara nyttomål och realtidsövervakning av hur deras AI-system faktiskt beter sig, kommer att ha ett enormt konkurrensövertag när reglering och kundkrav skärps – och det kommer de att göra.
AI-transformationen är oundviklig. Frågan är inte om, utan för vems räkning den sker.