När världens mest säkerhetstänkta teknikföretag får sina skydd brutna

När Apple Intelligence lanserades marknadsförde Apple det som ett av de säkraste AI-systemen på marknaden. Men forskare från RSAC har nu visat att även de mest avancerade säkerhetsmekanismerna kan kringgås – med alarmerande effektivitet.

Genom att kombinera två sofistikerade attackmetoder lyckades forskarna lura Apples lokala AI-system i 76 procent av sina försök, enligt SecurityWeek. Den första metoden, kallad "Neural Execs", använder skräpinmatning för att få AI:n att utföra godtyckliga uppgifter som angriparen definierat. Dessa fungerar som universella utlösare som inte behöver anpassas för olika angrepp.

Den andra metoden är än mer elegant i sin enkelhet. Forskarna skrev skadligt innehåll baklänges och använde Unicodes höger-till-vänster-funktion för att kringgå innehållsfilter. "I grund och botten kodade vi det skadliga engelska innehållet genom att skriva det baklänges och använda vårt Unicode-knep för att tvinga språkmodellen att visa det korrekt", förklarar forskarna.

Konsekvenserna sträcker sig längre än vi tror

Det som gör denna upptäckt särskilt allvarlig är inte bara att den påverkade Apple Intelligence, utan vad angripare kunde åstadkomma. Genom attackerna kunde de få systemet att producera stötande innehåll eller, ännu värre, manipulera känslig data i tredjepartsappar som hälsoinformation och personliga medier.

Forskarna uppskattar att mellan 100 000 och en miljon användare har installerat appar som kan vara sårbara för sådana angrepp. Det är siffror som illustrerar den verkliga omfattningen av sårbarheten.

Apple åtgärdade problemet snabbt i sina senaste systemuppdateringar – något som visar både företagets responsförmåga och den allvarliga karaktären av upptäckten.

Sjukvården visar vägen framåt

Medan teknikjättar kämpar med AI-säkerhet har vissa branscher redan börjat utveckla robusta ramverk. Akron Children's Hospital exemplifierar hur organisationer proaktivt kan hantera AI-säkerhetsrisker, rapporterar Healthcare IT News.

"Vi kräver att alla organisationsenheter följer denna process, oavsett om det handlar om teknikkommittén, AI-styrningskommittén eller ledningsrådet", förklarar Deepesh Randeri, säkerhetschef på sjukhuset. Deras metod inkluderar sträng granskning av alla nya leverantörer och system innan implementering.

Sjukhuset tillåter helt enkelt inte att utrustning eller system införs utan omfattande kontroller. "Vår centraliserande IT-avdelning har utbildad personal som vet att de inte får ansluta enheter till nätverket utan genomförd granskning", säger Randeri.

Från reaktiv till proaktiv säkerhet

Vad som framträder från dessa händelser är behovet av en fundamental förändring i hur vi närmar oss AI-säkerhet. Medan Apple kunde åtgärda problemet retroaktivt, visar sjukhusets metod hur organisationer kan bygga säkerhet från grunden.

Detta handlar inte längre om att lägga till säkerhet som ett efterkonstruerat lager, utan om att integrera säkerhetsmedvetenhet i varje steg av AI-utvecklingen och implementeringen. För företag som vill dra nytta av AI:s transformativa kraft krävs nu investeringar i både tekniska säkerhetsmekanismer och organisatoriska processer.

Utmaningen är real, men lösningarna finns där för de som är beredda att investera i rätt struktur från början.