Kan du lita på den du ser i videomötet? Allt färre kan svara ja
Djupförfalskningar har ökat med 2 000 procent – och få chefer kan avslöja dem.
Det handlar om förtroende – och det håller på att krackelera
När en person sätter sig framför kameran i ett videomöte förväntar vi oss att se en riktig människa. Det antagandet håller på att bli farligt naivt. Bedrägerier med hjälp av manipulerade videor – så kallade djupförfalskningar – har ökat med över 2 000 procent de senaste tre åren, och enligt det amerikanska säkerhetsföretaget Scam.ai är det fortfarande bara 31 procent av personalchefer som känner sig rustade att känna igen dem. Konsekvenserna är redan påtagliga: felrekryterade spioner, kapade identiteter i affärsförhandlingar och ekonomiska förluster i mångmiljonklassen.
Men nu samlas motsvaret på bred front – och det är mer koordinerat än någonsin.
Detektorn som jobbar i bakgrunden
På teknikmässan Computex 2026 i Taipei presenterade Scam.ai sin nya produkt Halo – en realtidsdetektor för manipulerade videobilder i pågående videosamtal. Det som gör lösningen strategiskt intressant är inte bara vad den gör, utan hur den gör det: all bildanalys sker lokalt på användarens dator, utan att något videomaterial skickas till externa servrar. Partnerskapet med Qualcomm ger tillgång till processoroptimering som möjliggör detta utan att påverka samtalets kvalitet.
Det är ett genomtänkt teknikval. I en tid då dataintegritet är en konkurrensfördel är det klokt att inte bygga sin säkerhetslösning på ett moln som i sig kan bli ett mål. Halo arbetar tyst i bakgrunden och larmar när något inte stämmer – utan att störa flödet. Enkelt, elegant och skalbart.
Sverige tar nätverksnivån på allvar
Samtidigt sker något viktigt på lagstiftningsfronten i Sverige. Från och med den 1 augusti träder ett nytt regelverk i kraft som enligt Computer Sweden ålägger mobiloperatörerna att aktivt identifiera och blockera misstänkt bedrägeritrafik – redan på nätverksnivå, innan ett enda vilseledande sms ens når fram till mottagaren.
Det är en strukturell förändring med stor potential. Metoder som nummerspoofing – där bedragare maskerar sitt riktiga nummer och utger sig för att ringa från exempelvis en bank eller en myndighet – har länge gjort det närmast omöjligt för vanliga medborgare att skilja äkta kontakter från falska. Post- och telestyrelsen, som är tillsynsmyndighet på området, välkomnar skärpningen och har länge efterfrågat just den typen av tydliga krav på operatörerna.
Resultatet om regelverket tillämpas konsekvent? En hel kategori av bedrägerier riskerar att bli väsentligt svårare att genomföra. Det är rätt väg.
Finanssektorn satsar tungt
På den finansiella sidan är investeringarna nu på en helt annan skala. Det amerikanska teknikföretaget Quantifind meddelar en finansieringsrunda på 200 miljoner dollar – drygt två miljarder kronor – ledd av riskkapitalbolaget Summit Partners med deltagande från tunga namn som Citi Ventures, S&P Global och Deloitte, rapporterar Finextra. Bolaget kallar sin nisch för AI-baserad riskintelligens och riktar sig mot banker, finansinstitut och myndigheter som behöver hantera allt mer sofistikerade hotbilder i realtid.
Parallellt meddelar riskhanteringsföretaget Shield att deras plattform AmplifAI utökas med två nya självständiga AI-agenter för kommunikationsövervakning inom finanssektorn. Det handlar om automatiserade system som på egen hand kan identifiera och utreda kommunikationsrisker – utan att en människa behöver godkänna varje enskilt steg. Efter år av skandaler kring otillåten kommunikation via privata kanaler, och de astronomiska böter som följt, är efterfrågan på den typen av lösningar enorm.
Båda satsningarna speglar samma insikt: regelefterlevnad och riskhantering kan inte längre skötas manuellt. Volymen är för stor, hoten för snabbrörliga och kostnaderna för misstag för höga.
Rustningen pågår – på båda sidor
Det som gör det här ögonblicket unikt är att vi ser ett samordnat svar växa fram: teknikföretag bygger realtidsdetektorer, lagstiftare skärper kraven på infrastrukturägare och investerare satsar miljarder på att rusta finanssystemet. Det är en ekosystemförändring, inte ett enskilt verktyg.
Men utmaningen är lika tydlig som möjligheten: de som genererar djupförfalskningar och genomför AI-drivna bedrägerier rör sig precis lika snabbt. Kampen om trovärdigheten är inte vunnen. Den är knappt inledd.
Vår analys
Det vi ser är inget annat än ett kapprustningslöp i realtid – och det är viktigt att förstå vad det egentligen handlar om. Kärnan är inte teknologi, utan förtroende. Förtroende för att den person du ser i ett videosamtal är den de utger sig för att vara. Förtroende för att det sms som påstår sig komma från din bank faktiskt gör det. Förtroende för att finansmarknadens kommunikation är den den ser ut att vara.
De initiativ vi nu ser – Halos lokala detektering, Sveriges nätverksbaserade lagstiftning, Quantifinds riskanalys och Shields agentdrivna övervakning – är alla uttryck för samma insikt: AI måste mötas med AI, och strukturer måste byggas in på varje nivå, från nätverksinfrastruktur till enskilt videosamtal.
Utvecklingen leder mot en vardag där skyddsmekanismer är osynliga men allestädes närvarande. Det är rätt riktning. Men framgången avgörs av hur snabbt adoptionen sker – inte av hur bra teknologin är på pappret.