Mer än hälften av storföretagen har redan drabbats – ändå förlitar sig de flesta på leverantörernas skydd
Hälften av storföretagen har redan drabbats – ändå litar de flesta blint på leverantörernas skydd.
Farten är hög – men säkerheten hänger inte med
Det finns en sorts rus i hur företag just nu rullar ut AI-agenter. Och det är förståeligt. Systemen levererar, de skalar, de frigör tid. Men i den yran glömmer vi alltför ofta att ställa den avgörande frågan: vad händer när de agerar fel – och ingen människa var med och tittade på?
Svaret börjar nu synas i data. Enligt en undersökning från VentureBeat, som omfattade 107 stora organisationer, har hela 54 procent redan drabbats av en säkerhetsincident eller ett allvarligt tillbud kopplat till sina AI-agenter. 18 procent bekräftar faktiska incidenter. Resterande 36 procent stoppade tillbud i sista stund. Det är inte en hypotetisk risk – det är verklighet, redan nu.
Delade nycklar, delad sårbarhet
En av de mest uppenbara svagheterna är hanteringen av identiteter och behörigheter. Enbart 32 procent av företagen ger varje agent en egen, avgränsad identitet. Övriga låter agenter dela inloggningsuppgifter eller köra på gemensamma programmeringsgränssnittnycklar. Det innebär att en enda komprometterad agent kan öppna dörren till ett helt ekosystem. Bara tre av tio företag isolerar sina högriskkonton i avskärmade miljöer.
Den dominerande säkerhetsstrategin? Att lita på AI-leverantörernas egna inbyggda skyddsmekanismer. Det är inte fel i sig – men det är en farligt passiv approach när agenterna samtidigt får allt bredare åtkomst till affärskritiska system.
Godkänt i test, havererat i verkligheten
En annan VentureBeat-undersökning, med 157 organisationer, avslöjar ett lika oroande mönster: varannan organisation har under det senaste året driftsatt en agent som godkändes i interna tester – och sedan slog fel i verklig miljö med direkt kundpåverkan. Trots det litar bara fem procent fullt ut på sina automatiserade utvärderingsmetoder.
Ändå rör sig branschen mot mer automatisering och mindre mänsklig tillsyn. Två tredjedelar av organisationerna tillåter redan, eller arbetar aktivt mot, att rulla ut agentförändringar helt utan mänsklig granskning i beslutskedjan. Vi bygger alltså snabbare än vi testar, och testar snabbare än vi litar på resultaten – men driftsätter ändå.
Övertygande svar, bräckligt underlag
Till detta kommer ett tredje problem, som kanske är det mest underskattade. En tredje VentureBeat-undersökning, riktad mot 101 medelstora och stora företag, visar att 57 procent av dem upplevt att deras AI-agenter producerat felaktiga svar med stor tillförsikt – och att felen berodde på saknad eller motstridig affärsinformation. Mer än hälften av dessa säger att det skett upprepade gånger.
Det här är inte ett tekniskt kantfall. Det är ett strukturellt problem. När agenten hämtar information i realtid och den informationen är bristfällig, bär den med sig felet rakt in i ett svar som låter helt trovärdigt. För en kund, en kollega eller ett affärsbeslut kan det vara förödande.
När angriparen också är en agent
Som om intern sårbarhet inte vore nog kom en väckarklocka utifrån tidigare i veckan. Hugging Face, en av världens ledande AI-plattformar, meddelade att de utsatts för ett intrång – utfört helt och hållet av ett autonomt AI-agentsystem. Angriparna utnyttjade sårbarheter i datahanteringssystemet, höjde sina behörigheter, samlade in inloggningsuppgifter och rörde sig vidare in i flera interna kluster – allt under ett veckoslut, via tusentals automatiserade åtgärder i kortlivade isolerade miljöer.
Det är det så kallade "agentiva angripare"-scenariot som säkerhetsexperter länge varnat för. Nu är det inte längre ett tankeexperiment.
För att analysera de mer än 17 000 registrerade händelserna i angriparens aktivitetslogg använde Hugging Face sina egna AI-verktyg. AI mot AI – en dynamik som kommer att definiera säkerhetsarbetet framöver.
Infrastrukturen håller inte tempot
I bakgrunden byggs nu datacentren som ska driva allt detta i rasande fart. Men enligt en rapport från säkerhetsföretaget Lava Labs byggs de snabbare än de kan säkras. AI-datacenter skiljer sig fundamentalt från traditionella varianter: de fungerar som högeffektiva beräkningsfabriker som servar en stor och okänd kundkrets, och de bryter mot den grundläggande tillitsmodell som traditionell infrastruktur vilar på. Sårbarheter under operativsystemsnivå – som manipulering av inbyggd programvara och osäker isolering mellan hyresgäster – är svåra att upptäcka och kan få konsekvenser för hela kluster.
Möjligheterna med AI-agenter är verkliga. Men det är också riskerna.
Vår analys
Det som gör det här ögonblicket så avgörande är att vi befinner oss i ett fönster där vanor och strukturer fortfarande formas. De beslut som tas nu – om behörighetshantering, utvärderingsrutiner, informationskvalitet och infrastruktursäkerhet – kommer att sätta standarden för hela branschen under lång tid framöver.
Jag ser inte det här som ett argument för att sakta ner. Jag ser det som ett argument för att bygga rätt. Hugging Face-incidenten är ett prejudikat: det agentiva angreppet är här, och det kräver ett agentivt försvar. Organisationer som investerar i strukturerad informationsstyrning, tydlig identitetshantering och robusta utvärderingsflöden kommer inte bara att vara säkrare – de kommer att vara snabbare och mer tillförlitliga än konkurrenter som chansade.
AI-agenter är inte ett hot mot affärslivet. Oaktsam driftsättning av dem är det. Skillnaden är ledarskap.