Vem ansvarar när AI:n har fel – och patienten betalar priset?

En vecka som kan förändra två sektorer på en gång

När ett teknikföretag gör ett stort drag brukar det handla om en sak i taget. OpenAI gör just nu två. Nästan simultaneously tar man steget in i sjukvården och skolan – och det är svårt att överskatta hur symboliskt laddade dessa rörelser är.

Låt oss börja i vårdsalen.

Läkarens nya kollega heter ChatGPT

Enligt OpenAIs egna bloggar kan vårdorganisationer nu koppla sina elektroniska patientjournalsystem direkt till ChatGPT. Det betyder att en läkare som ställer en klinisk fråga kan få ett svar som väver samman aktuell patientdata, medicinsk forskning och branschinformation – allt i ett enda gränssnitt, i realtid.

Detta är inte en liten nyhet. Det är ett paradigmskifte i hur kliniker kan arbeta.

Var och en som har träffat en överarbetad distriktsläkare eller en sjuksköterska som jonglerar tio patientärenden samtidigt förstår omedelbart värdet. Den administrativa bördan inom vården är ett välkänt och dokumenterat problem. Om AI kan ta bort även en del av den manuella informationssökningen – om svaret på frågan "vilka läkemedel tar den här patienten och vad säger forskningen om interaktioner?" kan levereras på sekunder snarare än minuter – handlar det om tid som kan återinvesteras i faktisk patientvård.

OpenAI betonar att anslutningen sker på ett säkert sätt, men viktiga detaljer kring dataskydd och ansvarsfördelning återstår att klargöra. Och det är just här diskussionen måste föras med fullständig ärlighet: hanteringen av känsliga patientuppgifter kräver ett juridiskt och etiskt ramverk som är minst lika robust som tekniken själv. I Sverige, med vår starka tradition av integritetsskydd och Datainspektionens vakande öga, kommer dessa frågor att ställas högt och kräva tydliga svar.

Men det vore ett misstag att låta osäkerhet kring detaljer skymma det strukturella genombrott som detta faktiskt representerar.

Tonårsversionen som delar skolan

Parallellt rapporterar EdSurge om en annan offensiv: den 18 augusti lanserade OpenAI en anpassad version av ChatGPT riktad till användare mellan 13 och 17 år. Plattformen placerar automatiskt yngre användare i ett särskilt läge med pedagogiskt syfte – ett så kallat studieläge som vägleder eleven med frågor och steg-för-steg-stöd, i stället för att servera färdiga svar.

Funktionerna är genomtänkta. En påminnelsefunktion kan känna av när en elev försöker ta genvägar och omdirigerar dem mot samarbetsinriktat problemlösande. Det finns möjlighet till kunskapsprov, visuella förklaringar och tidsbegränsningar för användningen.

Men reaktionerna från de som faktiskt testat tjänsten är – som EdSurge beskriver det – delade.

Laura Yeager, rektor vid en grundskola i Oklahoma, ser verklig potential, särskilt för elever som saknar stöd hemma. Samtidigt sätter hon fingret på en central utmaning: "Lärare och föräldrar förväntas vara minst lika kunniga om verktyget som eleverna själva. Det är en hög ribba."

Det är en klok och ärlig observation. Tekniken kan vara hur väldesignad som helst – om det saknas vuxna som kan guida, kontextualisera och ifrågasätta, riskerar den att bli en sofistikerad genväg snarare än ett läromedel.

I Sverige, där likvärdighet i skolan är en grundläggande princip, väcks också en annan fråga: om verktyget kräver kunniga vuxna för att fungera som det är tänkt, riskerar vi att digitala klyftor förstärks snarare än utjämnas?

Två sektorer, ett gemensamt tema

Det som förenar dessa två nyheter är inte bara att de handlar om OpenAI. Det är att de båda rör sig in på territorium där förtroende är fundamentet för hela verksamheten – patientens förtroende för vården, elevens förtroende för skolan.

AI kan stärka det förtroendet, om det implementeras rätt. Det kan ge läkaren mer tid med patienten, och eleven ett stöd som möter hen där hen befinner sig.

Men det kan också erodera förtroendet, om tekniken rullas ut utan tillräcklig transparens, utbildning och samhällsdialog.

Sverige har en unik möjlighet att vara det land som visar hur man gör det rätt – med ordning, integritet och ett genuint fokus på de människor tekniken är till för.