Säkerhetshål i mjukvara inbringar 13 miljoner till etiska hackare — AI-verktygens brister en varningssignal för en bransch i galopp

Hackarna slår till — och branschen bör lyssna

Det är lätt att fastna i entusiasmen kring allt som AI möjliggör just nu. Nya verktyg, nya arbetsflöden, ny produktivitet. Men i Berlin fick vi nyligen en nykter påminnelse om att varje ny teknik också för med sig nya angreppsvinklar — och att säkerhetsarbetet sällan hänger med i samma takt som lanseringarna.

Enligt SecurityWeek tilldelades deltagarna i årets Pwn2Own-tävling sammanlagt 1 298 250 dollar — motsvarande ungefär 13 miljoner kronor — för att ha hittat och demonstrerat 47 unika säkerhetshål i välkända mjukvaruprodukter. Tävlingen arrangeras av TrendAI:s sårbarhetsprogram Zero Day Initiative och är sedan länge ett av de mest respekterade forumen för så kallad etisk hackning, där forskare med tillstånd söker efter brister som annars riskerar att utnyttjas av illvilliga aktörer.

Stora namn, stora hål

De två främsta lagen, Devcore och StarLabs SG, delade på nära 750 000 dollar. Devcore fick 200 000 dollar för en sårbarhet i Microsoft Exchange som möjliggjorde kodkörning på systemnivå — ett allvarligt fynd i ett system som används av otaliga organisationer världen över. Laget fick också 175 000 dollar för ett så kallat sandlåde-genombrott i Microsoft Edge, samt 100 000 dollar för en brist i Microsoft SharePoint.

StarLabs SG matchade toppbelöningen med 200 000 dollar för en sårbarhet i VMware ESX som möjliggjorde kodkörning i en annan hyresgästs miljö — ett scenario som VMware själva hade pekat ut som det mest allvarliga möjliga och därmed satt maxbelöning på.

Dessa fynd är i sig inte förvånande för den som följt branschen länge. Microsoft och VMware är väletablerade mål, och sårbarheter i deras produkter har hittats år efter år. Det som är nytt — och det som verkligen borde fånga uppmärksamheten hos alla oss som arbetar med AI-omställning — är vad som hände på den andra sidan av tävlingslistan.

AI-verktygen visade sig vara sårbarare än väntat

Ett tydligt mönster under årets tävling var det stora intresset för AI-relaterade produkter. Deltagare lyckades demonstrera säkerhetshål i verktyg som LiteLLM, OpenAI Codex och LM Studio och fick 40 000 dollar vardera för dessa bedrifter. Även verktyg som Cursor, Ollama, Claude Code och Chromas vektordatabas visade sig innehålla brister som belönades med belopp mellan 15 000 och 30 000 dollar.

Det är en imponerande — och något oroväckande — lista. Dessa är inte obskyra produkter. De används dagligen av utvecklare, företag och organisationer som håller på att bygga nästa generations AI-drivna tjänster. Att de nu figurerar på samma tävlingslista som äldre, hårdare granskade system som Exchange och ESX säger något viktigt om mognadsnivån i AI-ekosystemet just nu.

Snabb tillväxt kräver ännu snabbare säkerhetsarbete

Jag är genuint entusiastisk inför den omställning som AI innebär — det vet de flesta som läser AI Nyheterna. Men entusiasm utan ansvar är naivitet. Och det vi ser i Berlin är ett tydligt tecken på att branschen behöver växla upp sitt säkerhetsarbete i samma takt som verktygen rullas ut.

Pwn2Own fyller här en ovärderlig funktion. Istället för att vänta på att verkliga angripare ska hitta bristerna skapar tävlingen ett kontrollerat utrymme där etiska forskare kan blottlägga svagheterna — mot ersättning, och med målet att tillverkarna sedan täpper till hålen. Det är ett system som faktiskt fungerar, och som branschen borde värna om.

För företag och organisationer som nu implementerar AI-verktyg i sina verksamheter är budskapet tydligt: säkerhetsgranskningar av AI-komponenter måste bli en självklar del av inköps- och driftsprocessen, inte en eftertanke. Precis som vi lärt oss att ställa krav på säkerhet i traditionell mjukvara behöver vi bygga samma kultur kring AI-verktyg — och vi behöver göra det nu, innan bristerna utnyttjas i skarpt läge.