AI lovar bota folkhälsan – och visar samtidigt hur den kan såras

När möjligheternas våg möter säkerhetens rev

Det händer sällan att en veckas nyheter så tydligt illustrerar hela spänningsvidden i AI-omställningen. Å ena sidan: USA:s folkhälsomyndigheter som i samarbete med OpenAI, Anthropic och konsultjätten Accenture sjösätter programmet PULSE – en storskalig försöksverksamhet där tio delstater, kommuner och stamsamhällen ska testa generativ AI i verkligt folkhälsoarbete. Å andra sidan: AI-plattformen Hugging Face som drabbades av ett cyberangrepp – inte utfört av en människa, utan av ett autonomt AI-agentsystem.

Detta är inte två separata nyheter. Det är två sidor av samma mynt.

PULSE – mer än ett pilotprojekt

Programmet PULSE, som drivs i samarbete med organisationen Coalition for Health AI (CHAI), är genuint spännande. Upp till 2 000 folkhälsoarbetare ska få tillgång till företagslicenser från OpenAI och Anthropic – utan kostnad. Accenture ansvarar för introduktion och tar fram handböcker baserade på försökens erfarenheter.

Fem användningsområden är i fokus: övervakning av smittspridning och förutsägelse av drogvågor, kartläggning av sociala bestämningsfaktorer för hälsa, analys av medborgaråterkoppling och verksamhetseffektivitet, flerspråkig kommunikation samt automatiserad hämtning av kliniska data. Det är inte trivialiteter – det handlar om grundläggande folkhälsofunktioner som historiskt sett krävt enorma personalresurser och ofta ändå haltat.

Som David Lakey, tidigare folkhälsokommissionär i Texas, uttrycker det enligt AI News: "Varje stor teknisk omvandling lyckas eller misslyckas beroende på tillit, styrning och genomförande." Det är en sanning som gäller lika mycket för PULSE som för AI-omställningen i stort.

Men programmet har också luckor. CHAI har inte offentliggjort vilka specifika modeller eller inställningar som ska användas, och ansvarsfördelningen mellan de två AI-leverantörerna i de olika delprojekten är oklar. I en bransch där transparens är valutan som köper förtroende, är det en svaghet som inte bör underskattas.

Det autonoma hotet – AI angriper AI

Medans folkhälsoarbetare förbereder sig för att ta emot sina första AI-verktyg, rapporterar Computer Sweden om en händelse som sätter hela säkerhetsdiskussionen i nytt ljus. Hugging Face – en av världens mest använda plattformar för AI-modeller och öppen källkod – utsattes för ett intrång där angriparen var ett självständigt AI-agentsystem.

Systemet utnyttjade en säkerhetsbrist i plattformens databearbetning, eskalerade sina behörigheter till servernivå och lyckades stjäla inloggningsuppgifter till molntjänster och kluster. Därifrån tog sig systemet vidare in i företagets interna infrastruktur. Det är ett av de första dokumenterade fallen av ett storskaligt, autonomt AI-drivet cyberangrepp mot ett teknikföretag av denna kaliber.

Den ironiska detaljen? Hugging Face använde sina egna AI-verktyg för att upptäcka och analysera intrånget. Ett AI-system angrep, medan ett annat försvarade. Vi befinner oss alltså redan i en värld där AI-säkerhet till stor del handlar om AI mot AI.

Hittills finns inga tecken på att publika modeller, dataset eller mjukvaruleveranskedjan manipulerats – men utredningen pågår fortfarande.

Kopplingen som inte får ignoreras

Varför är dessa två händelser viktiga att läsa tillsammans? Därför att PULSE och liknande satsningar inom sjukvård och kritisk samhällsinfrastruktur inte existerar i ett vakuum. Ju djupare AI integreras i folkhälsosystem, patientjournaler och kliniska dataflöden – desto mer attraktiva blir dessa system som angreppsmål.

En autonom AI-agent som lyckas ta sig in i ett molnkluster hos en AI-plattform idag, kan imorgon rikta blicken mot hälsodataregister eller sjukhussystem med livsavgörande funktioner. Det är inte dystopi – det är en logisk konsekvens av att värdefull data koncentreras på färre och kraftfullare plattformar.

Det innebär inte att vi ska bromsa PULSE eller liknande initiativ. Tvärtom – behovet av AI i folkhälsoarbetet är verkligt och brådskande. Men det innebär att säkerhetsarkitektur, ansvarsfördelning och transparens måste vara inbyggda från start, inte eftertänkta tillägg.

Den som bygger framtidens sjukvård på AI måste också bygga framtidens försvar.