A prima occhiata, l’app Viefur sembra solo un altro generatore AI per ritratti di animali domestici. Con l’aiuto di ‘monete’ virtuali, un cucciolo può trasformarsi in un ‘ritratto antropomorfo’, vestito in abiti umani e inserito in scene bizzarre. Sembra un gioco innocuo, un ritocco virtuale divertente. Tuttavia, questa facciata nasconde un’operazione tecnologica notevolmente più oscura e dannosa. Gli investigatori hanno scoperto che l’app fa parte di una rete colossale che conta più di 400 domini e servizi che si spacciano per utilità quotidiane: dal tutor di lingue all’AI coach per il fitness. Il colpo di scena arriva quando, sotto specifiche condizioni, questi servizi caricano silenziosamente un’interfaccia web dedicata alla generazione di immagini e video deepfake espliciti e abusivi, usando foto caricate dall’utente. La rete è un sistema ad alta precisione, in grado di creare contenuti scioccanti, inclusi temi espliciti o violenti. L’intero meccanismo è stato messo in luce grazie all’analisi di migliaia di annunci video su piattaforme come Meta, che contenevano material e deepfake di abuso minorile. Questi annunci, che raggiungevano decine di migliaia di persone, spingevano gli utenti verso app apparentemente legittime negli store di Google e Apple. Questo sofisticato ‘colsettamento’ è gestito da sviluppatori e da un’entità registrata ad Hong Kong. Il sistema è progettato per operare come un’impresa commerciale altamente organizzata, bypassando le politiche di sicurezza delle principali piattaforme digitali. Solo dopo aver scaricato l’app e aver triggerato determinate condizioni, l’utente capisce di essere entrato in un sistema di sorveglianza e manipolazione, dove ‘il banale’ nasconde ‘l’aberrante’.
🇬🇧 Summary in English
At first glance, the ‘pet portrait’ app, Viefur, appears to be just another AI generator for adorable pet photos. Using virtual coins, a critter can be transformed into an ‘anthropomorphic portrait,’ dressed in human clothes and dropped into utterly bizarre scenes. It seems like harmless digital fun. However, behind this veneer of fluff lies a profoundly darker and more sophisticated technological operation. Investigators uncovered that this app is merely a curtain for a massive network comprising over 400 domains and services that pretend to be everyday utilities—from language tutors to AI fitness coaches. The sinister truth emerges when, under specific conditions, these services stealthily load a web interface dedicated to generating explicit and abusive deepfake images and videos using user-uploaded photos. The entire network is a high-precision machine, capable of creating shocking and violent content. The scheme was revealed by analyzing thousands of video ads on platforms like Meta, which were flooding users with explicit deepfake material, including imagery of child abuse. These ads, reaching tens of thousands of people, directed users to seemingly legitimate apps on Google and Apple stores. This sophisticated ‘disguise’ is run by developers and an entity registered in Hong Kong. The system operates as a highly organized commercial venture, masterfully sidestepping the safety policies of major digital platforms. Only after downloading the app and triggering certain conditions do users realize they’ve entered a surveillance and manipulation system, where ‘the mundane’ conceals ‘the horrifying’.
Leggi l’articolo originale su Wired EN →
Fonte: Wired EN | Argomento: Software & Dev
#tecnologia #innovazione #technews