AI-system hittar och lagar säkerhetshål på timmar – kan förändra cybersäkerheten

När AI tar över cybersäkerheten

Cybersäkerhetsbranschen står inför en dubbelsidig revolution. Å ena sidan visar nya AI-system som Mythos hur artificiell intelligens kan automatisera hela säkerhetsprocessen – från att upptäcka sårbarheter till att skapa korrigeringar. Å andra sidan avslöjar skandaler med korrumperade säkerhetsexperter varför transparens aldrig varit viktigare.

Mythos är vad experterna kallar en "gräns-AI-modell" – en stor språkmodell som kan bearbeta programkod. Men det verkligt intressanta är inte modellen i sig, utan helheten. Enligt Hugging Face ligger framgången i kombinationen av beräkningskraft, modeller tränade på omfattande mjukvarudata, verktyg för säkerhetsanalys och en viss grad av självständighet.

Det här förändrar spelreglerna helt. Där säkerhetsarbete tidigare krävt månader av manuell analys kan AI-system nu genomföra samma process på timmar. Systemet kan upptäcka sårbarheter, förstå hur de kan utnyttjas och skapa lämpliga korrigeringar – allt automatiskt.

Mindre modeller, större demokratisering

Vad som gör utvecklingen särskilt spännande är att framgång inte kräver de största och dyraste modellerna. Mindre modeller inbäddade i system med djup säkerhetsexpertis kan ge liknande resultat till betydligt lägre kostnad. Detta öppnar dörren för att fler aktörer ska kunna bygga effektiva säkerhetslösningar.

Mjukvarusäkerhet har blivit ett hastighetslopp med fyra kritiska steg: upptäckt, verifiering, samordning och spridning av korrigeringar. Här kan öppna ekosystem fördela dessa steg över en hel gemenskap, vilket både ökar hastigheten och minskar risken för fel.

När insiders blir hotet

Men samtidigt som AI erbjuder nya möjligheter, påminner oss färska skandaler om hur sårbar branschen är för mänskliga brister. SecurityWeek rapporterar hur Angelo Martino, en 41-årig säkerhetsexpert från Florida, erkänt att han hjälpt utpressningshackare medan han arbetade som förhandlare åt drabbade företag.

Martino läckte konfidentiell information till hackargruppen BlackCat/Alphv för att maximera utpressningssummorna. Han är den tredje personen som erkänner skuld i detta fall, där alla riskerar upp till 20 års fängelse. BlackCat-gruppen genomförde attacker mot över 1 000 organisationer mellan 2021 och 2023.

Detta visar den mörka sidan av slutna system. När säkerhetsarbete sker bakom stängda dörrar, utan insyn eller kontroll, skapas utrymme för korruption och förräderi. Företag som litade på sina säkerhetsexperter blev istället offer för dem.

Transparens som försvar

Här kommer öppen källkod in som en strukturell fördel. När AI-system för cybersäkerhet byggs öppet kan hela gemenskapen granska koden, förbättra algoritmer och upptäcka potentiella bakdörrar eller svagheter.

Öppenhet jämnar ut spelplanen. Istället för att förlita sig på några få experter bakom stängda dörrar kan organisationer dra nytta av kollektiv intelligens från tusentals utvecklare och säkerhetsforskare världen över.

Den traditionella modellen – där säkerhetsföretag håller sina metoder hemliga – visar sig alltmer problematisk. När insiders kan vända sig mot sina klienter, och när AI gör att mindre aktörer kan bygga kraftfulla säkerhetslösningar, blir transparens inte bara önskvärd utan nödvändig.