Hon byggde ett företag för att stoppa röstbedrägerier — efter att morfadern lurades av en klonad röst
Morfaderns röst klonades av bedragare — nu kämpar hon för att stoppa fler.
Telefonsamtalet som förändrade allt
Det finns en sorts bedrägeri som är extra grym — inte för att det är tekniskt sofistikerat, utan för att det riktar in sig på det mest mänskliga vi har: tilliten till en älskad röst.
När Tarini Padmanabhuni's morfar fick ett samtal från det som lät exakt som hans bror — upprörd, rädd, och med ett tydligt krav på lösensumma — hade han ingen chans att veta att rösten var datorskapad. Han betalade. Brodern befann sig vid det tillfället på helt annan plats, fullständigt ovetandes om vad som pågick i hans namn.
– Det som stannade hos mig var inte pengarna, säger Padmanabhuni till TechCrunch. Det var att han inte hade någon möjlighet att avgöra om rösten var äkta.
De orden bär på något viktigt. Vi pratar ofta om AI-bedrägerier i abstrakta termer — statistik, trender, procentökningar. Men bakom varje siffra finns ett morfar. En mormor. En förälder som litar på sin instinkt och blir sviken av teknologi som är mer övertygande än verkligheten.
Ett problem som växer snabbare än skyddet
Det här är inte ett marginellt problem. Enligt det amerikanska FBI förlorade amerikaner nära 900 miljoner dollar till AI-drivna bedrägerier förra året — en ökning med hela 24 procent jämfört med 2024. Mest utsatta är personer över 60 år, som förlorade dubbelt så mycket som åldersgruppen 50–59 år.
Siffrorna är häpnadsväckande, men den verkliga utmaningen är strukturell: tekniken för att skapa övertygande röstkloner är numera billig, tillgänglig och lättanvänd. Samtidigt har skyddet halkat efter.
Det finns redan aktörer på marknaden — Reality Defender, Pindrop och Microsofts Azure AI Content Safety bland dem — men dessa tjänster körs på avlägsna servrar i molnet. Det innebär att de inte kan byggas direkt in i mobiltelefoners operativsystem, och att den enskilde användaren i praktiken lämnas försvarslös i realtid.
Lösningen som föds ur personlig smärta
Det var ur den insikten — och ur morfarens upplevelse — som DetectifAI föddes. Padmanabhuni grundade det San Francisco-baserade teknikbolaget med ett tydligt uppdrag: att göra det omöjligt att luras på samma sätt.
I stället för att förlita sig på molnbaserade lösningar väljer DetectifAI en annan arkitektur. Tanken är att detekteringen ska ske direkt på enheten — i realtid, utan fördröjning, och utan att samtalets innehåll behöver skickas till en extern server. Det är ett tekniskt ambitiöst val, men det är också det enda val som faktiskt skyddar användaren i det avgörande ögonblicket: mitt i samtalet, innan skadan är skedd.
Det finns något djupt klokt i den ansatsen. Säkerhet som aktiveras efter händelsen är inte säkerhet — det är utredning.
Personligt driv som affärsstrategi
Som affärsutvecklare har jag sett många grundare motiverade av marknadsmöjligheter, trender och investeraraptit. Det är fullt legitimt. Men de bolag som brukar bygga något varaktigt är ofta de vars grundare har ett personligt sår att läka.
Padmanabhuni tillhör den kategorin. Hon såg sin morfar bli lurad av en teknik han aldrig hade en chans att förstå, och i stället för att acceptera det som en tragisk bieffekt av den digitala tidsåldern bestämde hon sig för att göra något åt det.
Det är precis den sortens grundarenergi som kan förflytta en hel bransch.
Och branschen behöver förflyttas. Medan AI-verktyg för att skapa syntetiska röster har blivit alltmer tillgängliga för vem som helst, har konsumentskyddet knappt hängt med. Det är ett gap som inte borde accepteras — och som bolag som DetectifAI nu försöker stänga.
Teknikens ansvar
Det finns en bredare fråga här som vi inom tekniksektorn måste ställa oss: när vi bygger kraftfulla verktyg för röstsyntes och djupförfalskningar, vilket ansvar följer med det?
Jag är genuint övertygad om att AI är en av de mest transformativa krafterna vi sett i modern tid. Men transformation utan skyddsmekanismer är inte framsteg — det är vårdslöshet. Berättelsen om DetectifAI påminner oss om att varje teknikgenombrott behöver sitt motsvar. Och att motvaret ibland föds ur något så enkelt som ett telefonsamtal till en morfar.
Vår analys
DetectifAI's framväxt är ett symptom på ett djupare strukturellt problem: den tekniska asymmetrin mellan angripare och försvarare har sällan varit så påtaglig som nu. Röstkloning är billigt och skalbart; skyddet är dyrt och fragmenterat.
Det som gör DetectifAI intressant ur ett strategiskt perspektiv är inte bara produkten i sig, utan valet att förlägga detekteringen direkt på enheten. Om de lyckas lösa de tekniska utmaningarna kring realtidsanalys med begränsad processorkapacitet, kan det sätta ett nytt riktmärke för hela branschen — och tvinga de etablerade aktörerna att omvärdera sina molnberoende arkitekturer.
På sikt är det troligt att vi ser lagkrav på inbyggda skyddsmekanismer i kommunikationstjänster, liknande hur vi i dag kräver säkerhetsbälten i bilar. Frågan är hur många morfar som hinner bli lurade innan dess.