Matematiskt genombrott kan öppna säkerhetskritiska branscher för AI

Problemet som blockerat AI i säkerhetskritiska system

Tänk dig en medicinsk övervakningsenhet som analyserar en patients hjärtrytm. Eller ett system som styr inflygning vid ett flygfält i tät dimma. Eller en reaktorskyddsenhet i ett kärnkraftverk. Gemensamt för alla tre är att de inte bara måste fatta rätt beslut – de måste fatta det i tid. En för sen respons kan vara lika katastrofal som ett felaktigt svar.

Det är här begreppet WCET kommer in – Worst-Case Execution Time, eller på svenska: garanterad övre tidsgräns för beräkningstid. Inom inbyggda realtidssystem är WCET en grundbult. Certifieringsorgan som DO-178C för flyg eller IEC 62304 för medicinsk programvara kräver att utvecklare kan bevisa att ett systems responstid aldrig överstiger en given gräns, oavsett indata.

Moderna AI-modeller, särskilt djupa neurala nätverk, har traditionellt sett gjort detta näst intill omöjligt. Beräkningstiden kan variera beroende på indata, hårdvara och körningskontext på sätt som är svåra att fånga med formell matematisk analys. Resultatet har blivit en återvändsgränd: reglerade branscher har sett potentialen i AI men inte haft verktygen för att certifiera den.

Vad WCET-CAN-teoremet påstår sig lösa

Nu rapporterar Finextra om ett nytt genombrott: WCET-CAN-teoremet, ett matematiskt ramverk som för första gången gör anspråk på att formellt kunna bevisa tidsgränser även för AI-komponenter. Teoremet utgör, enligt källan, ett första steg mot att ge säkerhetskritiska system den typ av verifierbara garantier som certifieringsorgan kräver.

Detaljer om exakt hur teoremet är konstruerat är ännu inte fullt tillgängliga för öppen granskning, men kärnan verkar ligga i att definiera beräkningsstrukturen hos vissa AI-modeller på ett sätt som tillåter formell analys av deras körtidsegenskaper. Det handlar med andra ord inte om att göra AI-modeller snabbare – utan om att göra dem förutsägbara.

Skillnaden är avgörande. En modell som i genomsnitt svarar på 2 millisekunder men ibland tar 50 är oanvändbar i ett realtidskritiskt sammanhang. En modell som garanterat svarar inom 10 millisekunder – varje gång – kan däremot certifieras.

Varför detta är mer än ett akademiskt kuriosum

Det är lätt att avfärda matematiska teoremer som abstrakt forskning utan omedelbar praktisk tillämpning. Men inom inbyggda system och säkerhetskritisk programvara är formell verifiering direkt kopplad till om en produkt ens får säljas eller användas.

Finextra lyfter fram ett antal branscher som direkt skulle påverkas om teoremet håller vid granskning: bank och finans (där algoritmisk handel redan opererar i mikrosekunder), försäkring, flyg och medicinsk teknik. Det handlar om sektorer med strikta myndighetskrav där AI hittills ofta fått stå utanför dörren just på grund av verifierbarhetsproblematiken.

För systemutvecklare som arbetar i dessa miljöer är det en välbekant frustration. Verktygen för att bygga kraftfulla AI-komponenter har funnits länge. Det som saknats är bryggan mot de formella bevismetoder som certifieringsprocesser bygger på. WCET-CAN-teoremet, om det håller, är just den bryggan.

Viktiga förbehåll kvarstår

Det är värt att påpeka att ett teorem som gör anspråk på att lösa ett problem och ett teorem som faktiskt löser det är två olika saker. Formell granskning av det matematiska underlaget återstår, och vägen från teoretiskt bevis till certifierad produktimplementation är ofta lång och krokig.

Dessutom gäller frågan vilka typer av AI-modeller som täcks av ramverket. Djupa neurala nätverk med miljarder parametrar är sannolikt inte de första kandidaterna – mer sannolikt handlar det om kompaktare, specialiserade modeller anpassade för inbyggda system. Men även det är ett stort steg framåt jämfört med dagens situation.

Det händer mycket på det här området just nu. Kombinationen av hårdvaruutveckling för resurssnåla AI-kretsar, ökad efterfrågan på AI i säkerhetskritiska tillämpningar och nu potentiellt ett nytt matematiskt verktyg för formell verifiering – det börjar likna de byggstenar som faktiskt behövs för att öppna upp dessa marknader.