AI blir både sköld och svärd i kampen om digital säkerhet
Artificiell intelligens används både för att skydda och för cyberbrottslighet.
AI-tekniken utvecklas i rasande fart, men säkerhetsfrågan får allt större uppmärksamhet. Denna vecka ser vi tydliga exempel på hur artificiell intelligens både kan användas för att förstärka säkerheten – och underminera den.
Ansiktsigenkänning kommer till nöjesparker
Disney har tagit steget in i AI-säkerhetens värld genom att införa ansiktsigenkänning som frivilligt alternativ för besökare på Disneyland i Kalifornien. Enligt Wired omvandlar systemet ansiktsbilder till numeriska värden som kan användas för att matcha identiteter vid framtida besök.
Tekniken är inte ny – ansiktsigenkänning används redan på flygplatser och idrottsarenor som Madison Square Garden. Men Disneys implementation visar hur även underhållningsbranschen nu omfamnar dessa verktyg. Företaget betonar att systemet är "helt frivilligt", även om besökare "fortfarande kan bli fotograferade" i andra körfält.
Data lagras i 30 dagar innan det raderas, såvida inte juridiska skäl eller bedrägeriförebyggande kräver längre lagring. Det är en balansakt mellan användarvänlighet och integritetsskydd som vi kommer se fler företag navigera framöver.
När AI blir vapnet i cyberbrottslingarnas händer
På andra sidan spektrumet rapporterar SecurityWeek om Bluekit – ett sofistikerat nätfiskeverktyg som utnyttjar AI för att lura internetanvändare. Verktyget innehåller över 40 mallar för att efterlikna populära tjänster som Apple ID, Gmail och GitHub, kompletterat med stöd för tvåfaktorsautentisering och till och med röstkloning.
Det mest oroväckande är verktygets AI-assistent, som kan hjälpa brottslingar att strukturera kampanjer och skapa övertygande innehåll. Även om assistenten vid testning endast levererade grundläggande mallar snarare än färdigt innehåll, visar utvecklingen att AI demokratiserar även cyberbrottslighet.
Bluekit representerar en ny generation verktyg där tekniska färdigheter inte längre är den begränsande faktorn för att genomföra avancerade attacker. Det räcker med att kunna navigera ett väldesignat gränssnitt.
Juridiskt motangrepp tar form
Samtidigt som tekniken missbrukas utvecklas också motmedlen. Sportico rapporterar att Taylor Swift ansökt om varumärkesskydd för att skydda sin röst och bild från AI-genererat innehåll. Strategin följer samma väg som skådespelaren Matthew McConaughey, som tidigare fått varumärkesskydd för ljud- och videoklipp.
Detta är särskilt relevant för idrottare, som alltmer utsätts för AI-genererat innehåll som missbrukar deras identitet. I februari cirkulerade sexualiserade AI-bilder av kvinnliga OS-atleter online, och falska videor med kända tränare har också spritts.
Juridiska experter pekar på "right of publicity" – rätten till offentlighet – som ett verktyg för att bekämpa otillåtet AI-innehåll. Men eftersom denna rätt varierar mellan delstater behövs mer enhetliga regelverk.
Myndigheter satsar på AI-försvar
Medan brottslingar utvecklar sina verktyg arbetar även försvaret med AI. Bloomberg och Axios rapporterar att amerikanska underrättelsetjänsten NSA testar Anthropics AI-verktyg Mythos Preview för att upptäcka säkerhetsluckor i programvara. Verktyget är så kraftfullt att tillgången begränsats till endast 40 organisationer.
Detta visar att även myndigheterna förstår AI:s potential för både angrepp och försvar. Frågan är om de kan hålla jämna steg med de aktörer som använder tekniken för skadliga syften.
Vår analys
Vi befinner oss i en kritisk fas där AI-tekniken mognar snabbare än våra säkerhets- och regleringsmekanismer hinner anpassa sig. Den här veckans nyheter illustrerar perfekt AI-säkerhetens dubbelriktade natur – samma teknik som kan förbättra säkerhet och användarupplevelse kan också användas för att undergräva dem.
Särskilt oroväckande är demokratiseringen av avancerade cyberattacker genom verktyg som Bluekit. När AI-assistenter kan hjälpa även tekniska noviser att skapa sofistikerade nätfiskekampanjer förändras hotbilden fundamentalt.
Framöver kommer vi troligen se en acceleration av både AI-drivna hot och AI-baserat försvar. Företag och myndigheter måste investera lika mycket i säkerhetsåtgärder som i själva AI-utvecklingen. Samtidigt behöver vi juridiska ramverk som kan hålla jämna steg med tekniken – Taylor Swifts varumärkesstrategi kan visa vägen framåt för hur kända personer kan skydda sig.