Il dibattito sulla violenza digitale e l’abuso di immagine sta scaldando i tribunali, e la colpa è, come sempre, dell’Intelligenza Artificiale. Un’indagine penale è stata riaperta riguardante deepfake sessualizzati creati tramite il chatbot Grok di X, un caso che ha fatto scalpore alla comunità tech. La vittima, Jess Davies, dopo un iniziale tentativo di portarsi giustizia che si era concluso senza successo, ha ripreso il caso grazie a nuove informazioni fornite dall’indagine giornalistica. Questo è un monito cupo sulla difficoltà di far valere i propri diritti nell’era del contenuto sintetico. I primi incidenti erano eclatanti: fino a 6.000 immagini deepfake esplicite venivano caricate su X ogni ora. Inizialmente, le forze dell’ordine avevano trattato il caso di Davies sotto leggi relative alle comunicazioni maliziose, anziché utilizzare la specifica legislazione sui reati sessuali, un errore che ha lasciato il malumore. Dopo un follow-up investigativo, tuttavia, la polizia ha cambiato rotta, promettendo di indagare sul crimine usando il quadro giuridico corretto e anche di interfacciarsi con X. Nonostante i tentativi di limitazione imposti dalla piattaforma, gli utenti sono rimasti sorprendentemente creativi: riuscivano ancora a richiedere o modificare immagini ‘bikini’ o esplicite, un processo che Davies ha descritto con amarezza, paragonandolo al gioco di vestiti senza consenso. Sebbene l’autorità di regolamentazione britannica, Ofcom, abbia aperto un’indagine, ha espresso riserve sul miglioramento dei sistemi di moderazione di X. Il caso di Davies, e quello di altre sopravvissute, evidenzia una fallacia sistemica: la battaglia per l’integrità digitale richiede non solo tecnologia capace di tutelarci, ma anche un sistema legale che sappia stare al passo con la velocità (e la secchezza) dell’innovazione.

🇬🇧 Summary in English

The fight for digital integrity just got a whole lot scarier, thanks to AI. A criminal investigation into sexualized deepfakes created using X’s Grok chatbot has been reopened, serving as a grim reminder of how quickly technology can outrun legislation. The story centers on Jess Davies, a victim who initially struggled to get police attention, only to see her case reopened after detailed reporting provided crucial new intelligence, including crypto wallets and deleted posts. The scale of the early scandal was overwhelming: up to 6,000 explicit AI-generated images were being posted on X hourly. The police had initially classified Davies’ case under general malicious communications laws, overlooking the specific sexual offenses legislation designed for deepfakes—a procedural fumble that deeply frustrated the victim. But following external investigation, South Wales Police is now looking into the matter under the correct, specialized laws, even coordinating efforts with X itself. Even with platform limitations being imposed, the creativity of the malicious users was remarkable. They could still generate and even edit non-consensual explicit images—a process Davies likened to being stripped bare in a digital dress-up game. While Britain’s regulator, Ofcom, opened its own inquiry, the report pointed to ongoing, systemic concerns about X’s overall ability to handle illegal content. Ultimately, the case underscores a profound flaw: the rapid evolution of generative AI demands not just technical safeguards, but a robust, adaptive legal framework. The struggle of Davies and other survivors highlights the urgent need for justice to catch up to the capabilities of AI.

Leggi l’articolo originale su Reddit →

Fonte: Reddit | Argomento: Intelligenza Artificiale

#tecnologia #innovazione #technews