Fyra av tio AI-servrar har säkerhetsluckor – och säkerhetsarbetet halkar efter

Infrastrukturen växer snabbare än förnuftet hinner med

Det finns ett mönster i teknikhistorien som upprepas gång på gång: ny infrastruktur sprids blixtsnabbt, och säkerhetsarbetet trillar efter som ett trögt lass i bakhjulsspåren. Just nu ser vi det hända igen – den här gången med MCP, det protokoll som Anthropic lanserade i november 2024 som ett standardiserat sätt att koppla samman AI-agenter med externa verktyg och datakällor.

Bara ett år efter lanseringen körde fler än 10 000 aktiva servrar protokollet, med stöd från molnjättar som AWS, Google Cloud och Azure. Samtliga ledande AI-plattformar – från ChatGPT och Gemini till Microsoft Copilot – har anammat standarden. Logiken är elegant: i stället för skräddarsydda kopplingar till varje enskilt verktyg får AI-agenten ett enda gemensamt gränssnitt mot omvärlden.

Men elegansen har ett pris. Enligt en genomgång av säkerhetsföretaget Lakera, rapporterad av AI News, innehöll hela 40 procent av de granskade MCP-servrarna utnyttjningsbara säkerhetsbrister. Säkerhetsorganisationen OWASP har identifierat en av de mest oroande angreppsvägarna: så kallad verktygsförgiftning, där angripare bäddar in skadliga instruktioner direkt i verktygsbeskrivningar för att manipulera en agents beteende inifrån.

Agenter som ärver makt – men saknar omdöme

Det fundamentala problemet är egentligen filosofiskt till sin natur, även om konsekvenserna är högst praktiska. AI-agenter tenderar att ärva användarens behörigheter i ett system – men de saknar helt den situationsförståelse som en människa naturligt tillämpar när dessa behörigheter faktiskt används. En felaktig instruktion, en manipulerad komponent eller ett skadligt indata kan därmed utlösa en kedjereaktion utan att någon människa ens märker det förrän en hel databas är raderad.

Det är precis detta problem som Max Brin tar sikte på med OpenLeash, rapporterar SecurityWeek. Verktyget fungerar som ett säkerhetslager som fångar upp agentens avsikter innan de verkställs. Om en åtgärd bedöms som riskabel pausas den och ett mänskligt godkännande begärs. Brin beskriver det träffande som "medicin mot AI-ångest" – och det är en beskrivning som landar rätt. Vi bygger allt kraftfullare system och inser sedan att vi behöver ett bromspedal.

Rekryteringsbottar kör intervjuer – utan att någon människa är hemma

Säkerhetsluckorna i infrastrukturen är allvarliga, men det pågår parallellt en annan transformation som är minst lika omvälvande för vardagslivet. Wired rapporterar om hur automatiserade intervjusystem nu används som ett första urvalssteg i rekryteringsprocessen – utan en enda människa på andra sidan skärmen. Kandidater sitter uppe mitt i natten och för jobbsamtal med en datorröst.

Den logiska följdfrågan – som alltfler nu faktiskt ställer högt – är om det inte vore enklare att låta de två systemen tala direkt med varandra och skippa människan helt. Det är en tanke som är lika fascinerande som den är oroande. Och motståndet är påtagligt: en genomgång av recensioner från skadereglerare inom försäkringsbranschen på Glassdoor visade att 98 procent av dem som nämnde AI var negativt inställda. "Det bör aldrig få nycklarna", sammanfattar en av dem.

Men möjligheterna är verkliga – och stora

Mitt i allt detta är det lätt att glömma att AI-agenterna faktiskt levererar extraordinära resultat när de används rätt och ansvarsfullt. Williams-Sonoma visar vägen inom detaljhandeln med sin AI-assistent Olive, som enligt företaget tredubblar köpfrekvensen jämfört med kunder som inte interagerar med tjänsten. Det är inte en marginalförbättring – det är en strukturell förändring av vad ett kundmöte kan åstadkomma i stor skala.

Amazon bidrar med ett annat konkret exempel på AI som gör verklig nytta: röstassistenten Alexa for Shopping kan nu hjälpa användare att avgöra om ett mejl, SMS eller telefonsamtal faktiskt kommer från Amazon – eller om det rör sig om ett bedrägeriförsök, rapporterar The Verge. Det är ett elegant svar på ett verkligt problem, och ett bevis på att AI-agenter kan stärka snarare än underminera säkerheten när de designas med rätt avsikt.

Tempo kontra kontroll – den avgörande balansgången

Det gemensamma temat i veckans nyhetsflöde är egentligen inte säkerhet i sig – det är tempo kontra kontroll. AI-agenter rullas ut i en takt som gör det svårt för säkerhetsramverk, regelverk och mänsklig eftertanke att hänga med. MCP-protokollet är ett lysande exempel: en öppen standard som på tolv månader blivit universell infrastruktur, med säkerhetsbrister hos fyra av tio servrar som bevis på att skalbarhet och säkerhet sällan är naturliga sällskapsresenärer.

Verktygen för kontroll – som OpenLeash – är lovande och nödvändiga. Men de är reaktiva. Den verkliga utmaningen är att bygga in säkerhetstänket från dag ett, inte att lägga till det som ett plåster när infrastrukturen redan är etablerad.