Forskare avslöjar: Industrirobotar och kirurgiska system kan luras att se fel – utan att någon rör en enda kabel

När roboten lurar sig själv

Föreställ dig en industrirobot som plockar komponenter på ett löpande band, dag efter dag, utan ett enda fel. Eller en kirurgisk assistent som navigerar med millimeterprecision. Eller ett försvarsfordon som identifierar hot i realtid. Nu föreställ dig att någon – utan att röra ett enda kablage eller skriva en enda rad ny kod – förmår dessa system att se något annat än verkligheten.

Det är inte science fiction. Det är den nya fronten inom robotsäkerhet, och den är betydligt mer oroande än traditionella systemhaverier.

Enligt IEEE Spectrum befinner sig fysisk AI – AI-system som styr robotar i den verkliga världen – i en unik sårbarhetssituation. Moderna robotar tolkar sin omgivning via sensorer, fattar beslut med hjälp av avancerade AI-modeller och omsätter dessa beslut i fysiska rörelser. Det gör dem exponerade i varje led av kedjan: från hur de tränats, till hur de uppfattar sin omgivning i realtid.

Dolda bakdörrar som vaktar sin tid

Hot av den här typen är inte helt nya. Redan 2017 visade forskningen bakom BadNets att en AI-modell kunde programmeras med en dold bakdörr – ett subtilt mönster som fick modellen att förväxla ett stoppskylt med en hastighetsskylt, men enbart när just det mönstret var synligt. Resten av tiden betedde sig modellen precis normalt. Det är exakt det som gör den här typen av angrepp så farliga: de syns inte.

Nu har forskningen tagit ett allvarligt steg framåt. Vid den vetenskapliga konferensen NeurIPS 2025 presenterades ett angrepp kallat BadVLA, riktat mot så kallade syn-språk-handlingsmodeller – modeller som låter robotar se, tolka instruktioner och utföra samordnade rörelser. Resultaten var uppseendeväckande: angripet kunde förmå robotar att avvika från sin avsedda bana när en dold trigger aktiverades. Ännu mer oroande: bakdörren överlevde till och med försök att omskola modellen. Det betyder att vanliga säkerhetsrutiner inte räcker.

En kompletterande studie, GoBA, visade att ett så vardagligt föremål som ett kaffekrus potentiellt kan fungera som trigger för ett sådant angrepp. Det handlar alltså inte om avancerad laboratorieutrustning – det handlar om objekt som finns i vilken fabrik, vilket sjukhus eller vilket fordon som helst.

Vad det betyder för verkliga tillämpningar

Låt oss vara konkreta. Inom tillverkning styr AI-robotar allt från svetsning till kvalitetskontroll. Ett manipulerat system som systematiskt godkänner felaktiga komponenter – utan att det syns i loggarna – kan orsaka produktionsproblem som är svåra att spåra och kostsamma att åtgärda.

Innom sjukvården används robotassisterade system vid operationer och läkemedelsdistribution. Här kan konsekvenserna av ett felaktigt beteende vara direkt livshotande – och det utan att personalen nödvändigtvis förstår att något har gått fel förrän det är försent.

Innom försvaret är implikationerna uppenbara. Autonoma system som identifierar mål eller navigerar i fältmiljö är självklara måltavlor för statsstödda aktörer som vill utnyttja just den här typen av dolda sårbarheter.

Säkerhet måste byggas in – inte klistras på

Det som gör situationen komplex är att den traditionella synen på robotsäkerhet – att hantera mekaniska fel och programmeringsmisstag – inte är anpassad för den här typen av hot. Att en robot beter sig normalt 99,9 procent av tiden är inte längre tillräckligt som bevis på att den är säker.

Vad branschen nu behöver är ett paradigmskifte: säkerhet som byggs in i hela kedjan, från träningsdata och modellarkitektur till realtidsövervakning av beslutsmönster. Det kräver samarbete mellan AI-forskare, säkerhetsexperter och de industrier som faktiskt driftsätter systemen.

Detta är inte ett argument mot fysisk AI – det är ett argument för att ta den på tillräckligt allvar för att göra den rätt.