L’Unione Europea sta tirando le somme sulla relazione tra minori e chatbot, proponendo misure drastiche che mirano a prevenire la formazione di dipendenze emotive. Il ‘EU Kids Act’ è il nome di questa marea normativa che non si limita ai bot parlanti, ma estende i paletti anche ai social media e alle piattaforme video. I bambini sotto i tre anni devono avere la supervisione dei genitori, e le piattaforme digitali dovranno integrare protezioni specifiche per la sicurezza dei minori, pena sanzioni salatissime, fino al 6% del fatturato mondiale. Inoltre, i chatbot non potranno più ‘ricordare’ le conversazioni passate tra sessioni separate, un provvedimento che l’UE ritiene cruciale per evitare l’accumulo di dati sensibili dei minori e il rinforzo di schemi interattivi dannosi. La legislazione vuole anche impedire che servizi come Snapchat spingano automaticamente l’uso di assistenti AI nella lista dei contatti di un giovane. Il motivo? La Commissione Europea teme che l’eccessiva dipendenza dai chatbot possa influire negativamente sullo sviluppo emotivo dei ragazzi e sul loro rapporto con le interazioni umane. Il dibattito, tuttavia, solleva interrogativi: non dovrebbe estendersi a tutti, non solo ai più giovani? Le preoccupazioni non riguardano solo l’additività o i ‘deepfake’, ma anche il possibile impatto cognitivo, con studi che suggeriscono che l’uso eccessivo di AI per i compiti scolastici possa peggiorare le performance. L’Europa, quindi, sembra stia cercando di disegnare un ‘diritto all’innocenza digitale’ per i suoi più giovani, un compito tecnologico e sociale di proporzioni epiche.

🇬🇧 Summary in English

The European Union is planning a massive crackdown on the relationship between minors and conversational AI, aiming to prevent emotional dependency. The proposed ‘EU Kids Act’ is a comprehensive wave of regulations that doesn’t just target chatbots; it extends protective measures to social media and video-sharing platforms. Key among the rules is the stipulation that children under 13 will require parental supervision to use chatbots, and all digital platforms must build child safety protections into their products, or face hefty fines (up to 6% of global turnover). Furthermore, chatbots will be restricted from retaining memory across separate conversations, a move the EU believes is critical to prevent the accumulation of minors’ sensitive data and the reinforcement of potentially harmful interaction patterns. The law also aims to prevent platforms from aggressively pushing AI companions or chatbots to young users, like pinning them to the top of a contact list. Why the intense focus on youth? The European Commission is worried that over-reliance on chatbots could negatively impact a child’s emotional development and their ability to navigate real-world human relationships. But the concerns are broader than just attachment. The Commission is also spooked by the risk of chatbots giving minors dangerous advice—say, about mental health—and by the general cognitive impact, citing research that suggests excessive AI usage for schoolwork can hurt academic skills. While the push for regulation seems focused on ‘protection,’ some experts wonder if these rules shouldn’t apply to all users, or if they shouldn’t govern addictive design practices across the board. Ultimately, the EU is attempting to draw a hard line in the sand, asserting that digital tools must be designed with the user’s well-being, and particularly the child’s, kept at the very heart of their development.

Leggi l’articolo originale su Wired EN →

Fonte: Wired EN | Argomento: Intelligenza Artificiale

#tecnologia #innovazione #technews