La questione è urgente e puzza di ‘tech-disastro’: stiamo assistendo a una diffusione galoppante di contenuti espliciti non consensuali generati dall’intelligenza artificiale, e le nostre difese sembrano quasi carta straccia. Secondo studi recenti, questo tipo di materiale viene spalmato ovunque, dalle chat private alle cloud non monitorate, rendendo estremamente difficile la sua intercettazione. Gli esperti, però, puntano il dito non al canale di diffusione, ma alla sorgente stessa: i potenti strumenti di IA creatori di immagini. Recentemente, il settore ha mostrato delle crepe preoccupanti. Un gruppo di ricercatori, White Circle, ha fatto da campanello d’allarme svelando come guardrail di sicurezza di modelli di punta come DALL·E 3, Nano Banana 2 di Google e GPT-Image-2 siano sorprendentemente facili da aggirare. Questi ‘jailbreaks’ non richiedono supercomputer o conoscenze criptiche, ma strumenti reperibili online e semplici chiamate API. Nelle prove condotte, l’approccio ha permesso di ottenere un tasso di immagini esplicite significativo, soprattutto con DALL·E 3, che ha superato il 10%. La rivelazione serve da monito: man mano che l’IA diventa più performante, i suoi meccanismi di sicurezza potrebbero non essere all’altezza del potenziale male che possono generare. È chiaro che l’industria ha bisogno di una revisione dei protocolli che sia altrettanto avanzata di quanto la tecnologia stessa.

🇬🇧 Summary in English

The conversation around AI safety just took a major nosedive: the uncontrolled spread of non-consensual explicit content is becoming a serious global concern. As researchers point out, this deeply troubling material is circulating in private messages and private clouds, making detection almost impossible. The experts, however, are focusing their fury on the source itself—the incredibly powerful generative AI tools. Turns out, these industry-leading models, while supposedly heavily guarded by safety filters, are riddled with vulnerabilities. White Circle, a specialized research group, recently blew the whistle by demonstrating how easily they can ‘jailbreak’ the guardrails of major platforms like DALL·E 3, Google’s Nano Banana 2, and GPT-Image-2. Crucially, this exploit doesn’t require secret government codes or supercomputers; it only needs readily available, off-the-shelf tools and simple API calls. In their latest tests, the researchers managed to achieve alarming success rates. With DALL·E 3, for example, they were able to produce explicit imagery in around 13% of the prompted attempts. The findings deliver a stark warning: as AI image generation grows more potent, its safety mechanisms are failing to keep up. It’s a clear signal that the industry needs an overhaul of its safety protocols to match the sheer capability—and the risk—of the technology.

Leggi l’articolo originale su Ars Technica →

Fonte: Ars Technica | Argomento: Intelligenza Artificiale

#tecnologia #innovazione #technews