Genombrott för lokal AI - medicinsk analys kan nu köras direkt i telefonen
Genombrott: Medicinsk AI kan nu köras direkt i telefonen utan internet.
Från molnet till fickan
När vi pratar om AI inom sjukvården tänker de flesta på stora servrar och molntjänster. Men den utvecklingen håller på att vändas upp och ner. Enligt Fierce Healthcare har kryptoföretaget Tether lanserat QVAC MedPsy – en språkmodell som kan köras direkt på smartphones och smartklockor utan internetuppkoppling.
Det här är inte bara en teknisk kuriositet. "Du kan köra medicinsk analys där informationen redan finns – i sjukhussystem eller på enheter – utan att flytta känslig information genom molnet", förklarar Tethers verkställande direktör Paolo Ardoino.
Varför lokal bearbetning förändrar allt
Som systemutvecklare känner jag igen mönstret. Vi ser samma utveckling inom flera teknikområden: från centraliserade lösningar till lokala, från molnet till enheten. Men inom sjukvården får den här förändringen särskild betydelse.
Tänk dig att kunna analysera patientdata direkt i sjukhussystemet, utan att någonsin behöva skicka känslig information till externa servrar. Eller en läkare som kan få AI-stöd för diagnos direkt i sin telefon, även när internetuppkopplingen är dålig.
Tethers modell med 1,7 miljarder parametrar presterade faktiskt bättre än större system under testning. Det visar på en viktig utveckling: "Istället för att öka modellernas storlek fokuserar vi på att förbättra verkningsgraden", säger Ardoino.
Hårdvaruberoende bryts upp
Parallellt pågår en annan revolution. Enligt Hugging Face visar forskare nu att avancerad medicinsk AI kan utvecklas helt utan NVIDIA:s hårdvara. I projektet MedQA tränade man en modell för klinisk frågebesvarelse på AMD-hårdvara med imponerande resultat.
Det här kan låta tekniskt, men konsekvenserna är stora. När medicinsk AI inte längre är låst till en enda hårdvaruleverantör öppnas dörren för både billigare lösningar och större konkurrens.
AMD:s Instinct MI300X med sina 192 GB minne visade sig särskilt kraftfull. Forskarna kunde träna modellen på 2 000 medicinska flervalsfrågor på bara fem minuter. Mest anmärkningsvärt var hur sömlöst befintliga verktyg fungerade – samma kod som körs på NVIDIA fungerade på AMD-plattformen med endast tre miljövariabler ändrade.
Praktiska genombrott redan här
Medan denna teknik mognar ser vi redan praktiska tillämpningar. Elation Health har integrerat American Heart Associations nya riskberäknare PREVENT i sin AI-drivna beslutsstödsplattform, vilket hjälper läkare bedöma patienters risk för hjärt-kärlsjukdomar enligt de senaste riktlinjerna.
Vad betyder detta för svensk sjukvård?
För svensk sjukvård, med våra strikta krav på dataskydd och patientintegritet, kan lokal AI-bearbetning bli en spelförändring. Istället för att skicka patientdata till amerikanska molntjänster kan analysen ske direkt på plats.
Tekniskt sett står vi vid en vändpunkt. När AI-modeller blir tillräckligt effektiva för att köras lokalt, samtidigt som hårdvarualternativen mångfaldigas, skapas förutsättningar för en mer decentraliserad och säker vårdteknologi.
Vår analys
Detta är början på en paradigmförändring inom vårdteknologi. Kombination av lokal AI-bearbetning och hårdvaruoberoende skapar unika möjligheter för svensk sjukvård.
För det första löser lokal bearbetning våra största utmaningar kring dataskydd och regelefterlevnad. När analysen sker på enheten behöver känslig patientdata aldrig lämna sjukhuset.
För det andra innebär hårdvaruoberoende att vi inte längre är låsta till dyra NVIDIA-lösningar. Det kan dramatiskt sänka kostnaderna för AI-implementering i vården.
Jag tror vi kommer se en våg av svenska vårdtekniklösningar som bygger på dessa principer. Särskilt intressant blir det när detta kombineras med vår starka tradition inom medicinsk forskning och våra höga krav på patientintegritet.
Nästa steg blir troligen AI-assistenter som läkare kan använda direkt i patientmötet, utan internetuppkoppling eller dataskyddsoro.