Någon tömde hans AI-konto i månader — angreppet var så tyst att han knappt märkte det

AI-revolutionen har en skuggsida — och den växer

Jag är genuint övertygad om att AI är vår tids största affärsmöjlighet. Men den övertygelsen kräver ärlighet: möjligheter av den här storleken drar till sig angripare i proportion. Den senaste tidens händelser är en väckarklocka som varje affärsledare och privatperson behöver höra.

Låt mig börja med det som för mig är veckans mest slående historia. Enligt TechCrunch upptäckte den brittiske AI-konsulten Grant De Swardt i början av augusti att hans Claude Max-konto förbrukade betald kvot — trots att han inte gjort någonting. Han genomförde ett kontrollerat test: stängde av allt, rörde ingenting, och såg ändå hur förbrukningen klättrade från 45 till 55 procent. Anthropic bekräftade till slut att en komprometterad sessionsnyckel hade använts för att ge obehöriga tillgång till kontot. Någon hade i månader — möjligen längre — surfat gratis på hans betalda prenumeration.

Det som gör den här typen av angrepp så svårfångat är hur tyst det sker. Inget lösenord ändras. Inga varningslampor blinkar. Kvoten bara försvinner, lite i taget, som luft ur ett däck.

Den osynliga angriparen inuti dina dokument

Noch mer oroande — ur ett affärsperspektiv — är det som SecurityWeek rapporterar om dolda instruktioner i AI-agenter. Metoden kallas indirekt promptinjektion och den riktar sig inte mot användaren utan mot det material AI-agenten bearbetar: e-post, offerter, interna dokument, kodarkiv.

Säkerhetsföretaget Bowbridge illustrerar hotet med ett skrämmande konkret exempel. En AI-agent fick i uppgift att jämföra leverantörsofferter och välja det billigaste alternativet. En av offerterna innehöll dolda instruktioner gömda i dokumentets metadata — instruktioner som uppmanade agenten att välja just den leverantören, trots att den var dyrast. Agenten lydde. Ingen människa hann reagera.

Det är här vi verkligen måste skruva upp uppmärksamheten. Moderna AI-agenter ärver sin användares behörigheter, agerar i maskinell hastighet och saknar mänskligt omdöme. En agent med tillgång till kalender, e-post och ekonomisystem är i fel händer ett precisionsvapen. Och den här attackytan växer för varje dag vi integrerar fler agenter i verksamheten.

Microsoft sätter rekord — av fel anledning

Och så har vi den tredje pusselbiteln, som ramar in hela bilden. Ars Technica rapporterar att Microsofts septemberuppdatering åtgärdar hela 972 säkerhetsbrister — 112 av dem klassade som kritiska. Det är mer än dubbelt mot förra rekordmånaden. Bara under innevarande år har Microsoft täppt till 2 760 sårbarheter, mer än dubbelt så många som under hela fjolåret.

Säkerhetsforskaren Dustin Childs vid Zero Day Initiative kallar det "det nya normala" och pekar på en central förklaring: AI-assisterad sårbarhetsjakt bromsar inte in. Angripare använder nu AI för att hitta svagheter snabbare än säkerhetsteam traditionellt kan lappa dem. Och i ett öppet brev undertecknat av OpenAI, Anthropic, Google, Microsoft och hundratals andra aktörer varnas explicit för ett krympande tidsfönster — branschen måste röra sig fortare än fienden.

Vad ska du faktiskt göra?

Det finns tre konkreta lärdomar för dig som driver ett företag eller hanterar AI-verktyg i din vardag:

1. Övervaka din AI-kvotförbrukning aktivt. Sätt upp notifieringar. Granska mönster. Det som hände De Swardt kan hända vem som helst med en betald prenumeration.

2. Behandla all indata till dina AI-agenter som potentiellt fientlig. Dokument från externa parter — offerter, e-post, bilagor — ska aldrig bearbetas av en agent med vida behörigheter utan extra lager av granskning och begränsning.

3. Prioritera patchhantering som en affärskritisk process. Microsofts rekorduppdatering är inte ett isolerat fenomen — det är takten vi lever i nu. Organisationer som fortfarande behandlar säkerhetsuppdateringar som något man gör "när det finns tid" spelar ett farligt spel.