L’incidente è partito da una chiamata che ha lasciato scosso il nonno di Tarini Padmanabhuni: un deepfake vocale aveva fatto credere che fosse stato rapito e che dovesse essere pagato un riscatto. Il fatto che il nonno non avesse nessun modo per verificarne la veridicità è stata la scintilla per la fondatrice di DetectifAI. Oggi, la startup, con sede a San Francisco, si batte con un problema sempre più grande: le truffe alimentate dall’IA. Il fenomeno è un casino finanziario; negli Stati Uniti, gli americani hanno perso quasi 900 milioni di dollari solo l’anno scorso, con i più anziani che subiscono perdite particolarmente salate. Il settore della rilevazione di deepfake è saturo, ma Padmanabhuni punta il dito contro la concorrenza, sostenendo che la maggior parte dei prodotti attuali gira su server cloud remoti. Questo significa che, se sei la vittima, non hai difese integrate direttamente nel telefono. La sua accortezza? Invece di cercare di rimpicciolire modelli cloud giganteschi, DetectifAI progetta modelli AI compatti fin dall’inizio, perfetti per girare direttamente nell’OS dello smartphone. L’obiettivo è semplice: dare un verdetto istantaneo, anche su messaggi vocali, senza che l’audio debba lasciare il dispositivo. La strategia è vendere il software (SDK) direttamente ai produttori di telefoni. Si tratta di posizionare la rilevazione deepfake come una ‘spec’ standard del settore, un po’ come l’ha fatto AT&T con l’iPhone originale. La piattaforma ha già dimostrato trazione, gestendo oltre 100.000 chiamate al mese per istituzioni finanziarie in India, dove viene utilizzata per il controllo antifrode e la verifica dell’identità vocale. La padronanza di Padmanabhuni, che ha iniziato a lavorare su machine learning all’età di 12 anni, rende questa missione non solo tecnicamente fondata, ma anche profondamente personale.
🇬🇧 Summary in English
A deeply unsettling scam provided the genesis for a powerful new tech solution. When Tarini Padmanabhuni’s grandfather was tricked by a deepfake voice—a simulated call claiming he’d been kidnapped and demanding a ransom—she realized the core problem wasn’t just the scam itself, but the terrifying inability to confirm reality. This incident has fueled the mission of her company, DetectifAI. The problem is massive. AI-powered scams are a colossal financial threat; the FBI reported Americans lost nearly $900 million last year. And sadly, vulnerability isn’t evenly distributed—seniors are hit particularly hard. While the market for deepfake detection is crowded, Padmanabhuni points out a critical flaw in existing solutions: most deepfake checkers require sending audio data to remote cloud servers. This leaves the person being scammed unprotected, lacking built-in defense on their device. DetectifAI’s genius, she argues, is in efficiency. Instead of struggling to shrink massive cloud models, they build compact AI models from the ground up. These mini-beasts are designed to run locally, right inside the smartphone’s operating system. This means an instant verdict on a voice message, whether it’s AI-generated, without the audio ever leaving the phone. To maximize impact, the strategy is to sell the software development kit (SDK) directly to phone manufacturers. The goal is to make deepfake detection a standard, non-negotiable feature, much like camera megapixels. The technology already has serious traction, successfully handling over 100,000 calls monthly for financial institutions in India. There, it’s used for fraud prevention and rigorous voice verification. The founder’s background—starting in machine learning at 12—gives the company a highly technical depth, ensuring that DetectifAI is positioned not just as another anti-scam tool, but as a fundamental piece of digital security infrastructure.
Leggi l’articolo originale su TechCrunch →
Fonte: TechCrunch | Argomento: Tech News
#tecnologia #innovazione #technews