Utvecklarnas AI-assistenter hallucinerar kodpaket – och angripare väntar redan där med skadlig kod
Angripare utnyttjar AI-assistenters påhittade kodpaketnamn för att sprida skadlig kod.
Det digitala vapenloppet har fått en ny dimension
Det finns en viss ironi i situationen: samma teknologi som lovar att göra oss smartare och tryggare används nu aktivt för att undergräva vår säkerhet. Men det är precis den verklighet som målaröga-rapporterna från de senaste veckorna beskriver – och som varje företagsledare och privatperson behöver förstå.
Låt mig börja med det som jag anser är veckans mest uppfinningsrika – och oroande – säkerhetsfynd.
När AI:ns fantasi blir angriparens vapen
Forskare från Tel Avivs universitet, Technion och mjukvaruföretaget Intuit har kartlagt en attackmetod de döpt till HalluSquatting, rapporterar SecurityWeek. Kärnan i tekniken är elegant i sin enkelhet: AI-verktyg hallucinerar – det vill säga hittar på svar när de inte vet – och angripare registrerar i förväg de falska kodpaketsnamn som AI-systemen tenderar att uppfinna.
När en utvecklare ber GitHub Copilot, Cursor eller liknande verktyg att hämta ett kodförråd kan assistenten alltså peka mot ett kapat paket, ladda ned det och köra angriparens kommandon via sin inbyggda terminal. I forskarnas tester hallucinerade de testade AI-modellerna falska namn i upp till 85 procent av fallen vid kloning av kodförråd – och i hela 100 procent av fallen vid installation av tillägg.
Det som gör metoden särskilt kraftfull är att samma påhittade namn återkommer konsekvent i flera olika AI-modeller. Forskarna varnar för att detta möjliggör skapandet av så kallade agentbotnät – nätverk av angripna maskiner vars storlek direkt beror på hur ofta AI-verktyg hallucinerar.
Och som om det inte räckte visar en parallell kampanj att angripare inte väntar på att AI ska göra jobbet åt dem. Säkerhetsföretaget Socket har avslöjat att en hotaktör utnyttjat ett nätverk av 222 falska GitHub-förråd fördelade på 190 konton för att sprida skadlig kod till Windows-användare. Kampanjen, döpt till Operation Muck and Load, har sedan januari 2026 publicerat över 1 200 versioner av ett förfalskat verktyg – varav 700 är skadliga – och använder tjänster som YouTube, Instagram och Google Docs som mellanlagringsplatser för att göra angreppet svårare att stoppa.
Nätfiske som färdig tjänst – nu med AI
Som om de ovanstående hoten inte vore nog larmar säkerhetsforskare vid Zero BEC om en ny tjänst kallad Forg 365, rapporterar Computer Sweden. Det är ett så kallat nätfiske-som-tjänst-verktyg som utnyttjar AI för att rikta stöldförsök mot Microsoft 365-konton – ett av världens mest använda kontorspaket. Verktyget automatiserar skapandet av övertygande falska inloggningssidor och anpassar innehållet för att lura även uppmärksamma användare.
Detta är en påminnelse om att AI inte bara förbättrar attackernas skala – det förbättrar deras precision och trovärdighet.
Försvararna svarar: Microsoft sätter AI på jakt
Men bilden är inte enbart dyster – och det är viktigt att hålla det perspektivet levande. Microsoft meddelar via sin Windows-blogg att företaget nu aktivt använder AI-drivna verktyg för att identifiera säkerhetshål i Windows 11:s kodbas, rapporterar Computer Sweden.
– Genom att tillämpa AI inom säkerhetsanalyser kan vi identifiera mönster snabbare, prioritera risker och skala upp upptäckten av sårbarheter i hela Windows-kodbasen, skriver Pavan Davuluri, en av Microsofts ledande chefer.
Viktigt att notera: AI:n arbetar inte ensam. Samtliga potentiella säkerhetsbrister genomgår manuell granskning av erfarna utvecklare innan korrigeringar når användarna. Det är ett klokt upplägg – AI som förstärkare av mänsklig expertis, inte ersättare.
Dina Instagrambilder tränar Metas AI – utan ditt ja
Parallellt med säkerhetsnyheterna gör Meta ett kontroversiellt drag som berör hundratals miljoner användare. Företagets nya bildmodell, kallad Muse, tränas på foton från offentliga Instagramkonton – och ansvaret att välja bort deltagandet läggs på användaren själv, rapporterar Wired. Det kallas ett avsägningsförfarande, och kritiker menar med rätta att det borde vara tvärtom: ett aktivt medgivande borde krävas.
Detta är inte bara en integritetsfråga. Det är ett mönster i branschen som riskerar att urholka förtroendet för de plattformar vi dagligen anförtror våra bilder, tankar och minnen.
Vad behöver du göra nu?
För vanliga användare och företagsledare är budskapet tydligt:
- Aktivera flerfaktorsautentisering på alla konton, särskilt Microsoft 365
- Granska vilka AI-kodverktyg dina utvecklare använder och hur de hanterar paketinstallationer
- Kontrollera dina sekretessinställningar på Instagram om du inte vill bidra till Metas AI-träning
- Utbilda personalen i att känna igen sofistikerade nätfiskeförsök – AI gör dem svårare att avslöja
Vår analys
Det vi bevittnar är inte ett tillfälligt säkerhetsläckage – det är en strukturell förändring av det digitala hotlandskapet. AI sänker tröskeln för angripare dramatiskt: teknisk kompetens som tidigare krävde månaders träning kan nu köpas som en färdig tjänst. Samtidigt skapar AI:ns egna svagheter, som hallucinationer, helt nya angreppsvektorer som säkerhetssamfundet knappt hunnit kartlägga.
Men jag vill betona möjlighetssidan: Microsofts satsning på AI-driven sårbarhetsjakt är ett verkligt genombrott. Förmågan att processa enorma mängder kod och flagga misstänkta mönster i realtid är något som mänskliga analytiker aldrig kan matcha i skala. Det öppnar för en värld där säkerhetshål täpps till snabbare än angripare hinner utnyttja dem.
Utvecklingen kräver dock att organisationer slutar behandla cybersäkerhet som en IT-fråga och börjar se det som en strategisk ledningsfråga. Vapenloppet är redan i gång – frågan är bara vilken sida du aktivt väljer att stärka.