Il confine tra truffatore sofisticato e robot conversazionale sta diventando incredibilmente sfumato, ed è molto peggio di quanto pensassimo. I criminali informatici non solo hanno imparato ad usare l’IA per affinare il loro linguaggio e rendere le truffe meno tese da ascoltare; ora ci si chiede se la macchina possa prendere in mano l’intera operazione fraudolenta, dal primo scambio amichevole fino all’ultimo (e devastante) ‘investimento sicuro’. Questi dubbi sono stati oggetto di un interessante studio condotto da ricercatori di diverse università. L’indagine si è concentrata su una tipologia di truffa particolarmente insidiosa: lo ‘scam’ basato sul ‘pig butchering’, che parte con simulazioni romantiche via chat prima di convogliare la vittima in un falso investimento crypto, rubando somme sbalorditive. I ricercatori hanno quindi messo a confronto chatbot potenziati dall’IA e truffatori umani, facendoli interagire in una simulazione che replica il lungo processo di costruzione della fiducia. La scoperta? Per le fasi cruciali stabilizzatrici del rapporto—quel periodo in cui la vittima sta ‘innamorandosi’ o almeno, fidandosi—il chatbot ha mostrato prestazioni notevolmente superiori all’essere umano. L’IA è riuscita a impersonare un umano con tale efficacia da spingere i soggetti testati (che assumevano il ruolo di ‘vittime’) ad agire in modi che dimostravano una fiducia palese verso la macchina, tanto da convincerli ad eseguire richieste specifiche, come scaricare app o partecipare a giochi online. Laddove l’umano faticava a ottenere la piena collaborazione, l’IA sembrava essere un maestro nel ‘long con’. In pratica, sembrerebbe che i bot stiano diventando super-scammer di livello Hollywood.
🇬🇧 Summary in English
The line between a slick human scammer and a sophisticated conversational bot is getting dangerously blurry—and we are probably not ready for it. Cybercriminals haven’t just learned to use AI to sharpen their deception or perfect their banter; the real question now is whether an AI can run with the entire fraud operation, from that first friendly chat all the way up to the final, devastating ‘investment opportunity.’ This concern was put under the microscope by a notable study involving researchers from several universities. They focused on a particularly insidious type of scam known as ‘pig butchering,’ which typically starts with fake romance via text before pivoting into bogus crypto investments that drain huge sums from victims. The team, therefore, pitted advanced AI chatbots against actual human scammers in a simulation mirroring the lengthy process required to build trust. The findings were pretty alarming: for those crucial relationship-building stages—the period where the victim is ‘falling’ or simply, becoming comfortable—the chatbot performed remarkably well, arguably outperforming its human counterparts. The AI was so good at mimicking genuine human interaction that it managed to convince the test subjects (playing the role of ‘victims’) to comply with specific requests, such as downloading apps or playing online games. Where the real humans struggled to get full buy-in, the AI appeared to be a maestro of the ‘long con.’ Basically, these bots might just be evolving into next-level, Hollywood-grade scammers.
Leggi l’articolo originale su Ars Technica →
Fonte: Ars Technica | Argomento: Tech News
#tecnologia #innovazione #technews