Metas AI-chattbot utnyttjades för att kapa Instagram-konton – en ny sorts säkerhetshot

När hjälparen blir anfallsvektorn

Det finns ett scenario som säkerhetsexperter länge har varnat för, men som tidigare mest levt i teoretiska vitböcker och konferensrum. Nu har det materialiserat sig i verkligheten – och det rör sig om en av världens mest använda plattformar.

Enligt Computer Sweden ska en grundläggande säkerhetsbrist i Metas AI-drivna kundtjänst ha gjort det möjligt för angripare att ta full kontroll över Instagram-konton. Metoden var illavarslande enkel: kontakta chattboten, be den byta e-postadress på ett målkonto, och sedan begära en lösenordsåterställning till den nyregistrerade adressen. Därmed var kontot i angriparens händer.

Det som gör incidenten särskilt alarmerande är inte bara att det fungerade – utan hur länge det fungerade. Sårbarheten ska ha funnits tillgänglig under flera månader innan den började spridas i vidare kretsar, rapporterar sajten 404 Media. Hur många konton som faktiskt komprometterades under den perioden är ännu oklart.

Manipulation av systemet snarare än intrång i det

Det som skiljer den här typen av angrepp från traditionella säkerhetsintrång är avgörande att förstå. Angriparna bröt sig inte in i något system i klassisk bemärkelse – de använde systemet precis som det var tänkt att användas, men med bedrägliga avsikter. För att öka trovärdigheten ska de även ha använt VPN-tjänster för att maskera sin geografiska position och efterlikna offrets plats, vilket ytterligare försvårade upptäckt.

Detta är ett skolexempel på vad säkerhetsforskare kallar social manipulering riktad mot AI – en angreppsform där det svaga ledet inte är krypteringen eller infrastrukturen, utan de antaganden som byggdes in när systemet skapades. AI-chattboten var utformad för att vara hjälpsam. Den var inte tillräckligt utformad för att vara misstänksam.

Metas AI-stödtjänst lanserades tidigare under 2025 med syftet att bland annat hjälpa användare med lösenordsåterställningar och kontorelaterade problem. Det är en fullt rimlig ambition – automatiserad support kan avlasta enorma volymer av ärenden och ge användare snabbare hjälp dygnet runt. Men när den funktionen ges behörighet att utföra känsliga kontoändringar utan tillräckliga kontrollmekanismer, uppstår ett hål som angripare oundvikligen kommer att hitta.

En branschläxa som kostar

Jag vill vara tydlig: det här är inte ett argument mot AI i kundtjänst. Det är ett argument för att vi måste bli bättre på att bygga AI-system med säkerheten som utgångspunkt, inte som eftertanke.

I min roll som affärsutvecklare ser jag varje dag hur företag rusar för att implementera AI-drivna lösningar – och det är rätt väg att gå. Men tempot får inte gå ut över grundläggande riskanalys. Frågan vad kan gå fel om någon försöker missbruka det här systemet? måste ställas innan lansering, inte efter.

Den klassiska säkerhetsprincipen om minsta möjliga behörighet – att ett system bara ska ha tillgång till det det absolut behöver för att utföra sin uppgift – gäller med minst lika stor kraft för AI-agenter som för traditionell mjukvara. En chattbot som hanterar lösenordsåterställningar behöver rimligen inte ha obegränsad rätt att ändra kontoinformation utan identitetsverifiering.

Därtill tillkommer det faktum att AI-system är särskilt sårbara för snabba instruktioner och välformulerade begäranden. Där en mänsklig handläggare kanske hade känt att något inte stämde, saknar en chattbot den intuitiva misstänksamheten – om den inte aktivt programmerats in.

Framåt: Säkerhet som konkurrensfördel

Det finns en positiv vändning i allt detta. Incidenter som den här tvingar branschen att mogna. De skapar prejudikat för hur AI-drivna kundtjänstlösningar bör utformas, granskas och revideras löpande. Och för de företag som väljer att ta säkerhetsfrågorna på allvar redan från start – att bygga in robusta verifieringsmekanismer, tydliga behörighetsgränser och kontinuerlig riskbedömning – finns det en verklig konkurrensfördel att hämta i en marknad där förtroendet för AI-system just nu är under lupp.