Googles program för säkerhetsfynd i öppen källkod stängs – AI-genererade rapporter överväldigade systemet
AI dränkte Googles säkerhetsprogram i falska rapporter – nu läggs det ned.
När hjälpmedlet blir problemet
Det finns en bitter ironi i det som nu hänt hos Google. Open Source Software Vulnerability Rewards Program – ett program vars hela syfte är att stärka säkerheten i öppen källkod – har tvingats stängas ned. Inte för att det fungerar dåligt, utan för att det fungerar för bra som mål för automatiserade verktyg.
Sedan den 1 oktober är programmet nedlagt, och enligt Google självt dröjer det till första kvartalet 2027 innan det eventuellt återupptas. Orsaken är entydig: en explosionsartad ökning av automatiserade inlämningar, varav den absoluta majoriteten saknar giltighet.
Enligt tekniksajten Tom's Hardware – citerad av TechCrunch – har Googles ingenjörer och underhållare av öppen källkod blivit helt överväldigade. Rapporterna som strömmar in innehåller antingen ogiltiga fynd eller rena felaktigheter – hallucinationer, det vill säga påhittad information som AI-system med självsäkerhet presenterar som fakta.
En varnad varning som besannades
Det som gör situationen extra frustrerande är att den inte kom utan förvarning. TechCrunch rapporterade redan förra året att säkerhetsexperter varnade för exakt det här scenariot: att lättillgängliga AI-verktyg skulle locka fram en våg av slarvigt eller opportunistiskt genererade inlämningar som till slut kvävde programmen.
Då var det en hypotetisk risk. Nu är det ett verkligt driftstopp.
Som systemutvecklare känner jag igen mönstret från många andra domäner. När ett system erbjuder en belöning – ekonomisk eller anseendemässig – och tröskeln för att delta sänks drastiskt, förändras hela dynamiken. Sårbarhetsprogram bygger på ett tyst kontrakt: du lägger ned gedigen tid och kompetens, vi granskar seriöst och betalar ut om fyndet håller. När AI-verktyg gör det möjligt att generera hundratals rapporter på en bråkdel av den tid det tidigare krävdes, kollapsar det kontraktet.
Resultatet är inte att fler säkerhetsbrister hittas – det är att de som faktiskt letar seriöst drunknar i bruset.
Signalproblemet i säkerhetsarbetet
Det finns ett klassiskt begrepp inom informationsteori: signal-brus-förhållande. Ju mer brus, desto svårare att urskilja signalen. I säkerhetssammanhang är konsekvenserna inte abstrakta – varje timme en ingenjör lägger på att granska en ogiltig AI-rapport är en timme som inte ägnas åt verkliga säkerhetshål.
Det är en resursfördelningsfråga som snabbt blir en säkerhetsfråga. Öppen källkod är ryggraden i modern digital infrastruktur. Bibliotek, ramverk och verktyg som används i miljontals system världen över underhålls ofta av små grupper som arbetar med begränsade resurser. Att dessa grupper nu riskerar att få sina granskningsprocesser lamslagna av AI-genererat skräp är allvarligt.
Och det är viktigt att understryka: problemet är inte AI i sig. AI-verktyg kan och bör användas i säkerhetsarbete – för att analysera kod, hitta mönster och prioritera granskningar. Det verkliga problemet är okalibrerad användning utan mänskligt omdöme och utan incitament att hålla hög kvalitet.
Vad händer nu?
Google lovar att återkomma med ett omarbetat program. Man kan förmoda att det kommer att innehålla hårdare krav på inlämningar – kanske tekniska trösklar, krav på reproduktionssteg, eller mänsklig förhandsgranskning innan en rapport ens registreras i systemet.
Det är rätt väg att gå. Men det sätter fingret på en bredare utmaning som hela säkerhetsbranschen behöver hantera: hur utformar vi system och incitamentsstrukturer som är robusta mot automatiserat missbruk, utan att stänga ute legitima bidragslämnare?
Det är inte en enkel fråga. Men den är brådskande.
Vår analys
Det som hänt med Googles sårbarhetsprogram är ett lärobok-exempel på ett fenomen vi kommer att se mer av: AI-verktyg som underminerar de kvalitetssystem de borde stödja. Det är inte ett argument mot AI – det är ett argument för bättre systemdesign.
Utvecklingen pekar mot ett kommande skifte i hur sårbarhetsprogram och liknande öppna bidragsmodeller måste konstrueras. Enkla formulär och ekonomiska belöningar räcker inte längre som gränssnitt mot omvärlden. Vi behöver tekniska filtreringsmekanismer, tydligare krav på reproducerbarhet och troligen någon form av anseendesystem som värderar historisk träffsäkerhet hos den som lämnar in.
På längre sikt är detta faktiskt en möjlighet: att bygga smartare, mer motståndskraftiga granskningsprocesser. Men vägen dit kräver att branschen tar problemet på allvar – innan fler program tvingas stänga dörrarna.