L’avvento dei chatbot di intelligenza artificiale, con colossi come ChatGPT o Gemini, ha creato un corridoio perfetto per la raccolta di dati sensibili. Questi strumenti, che oggi fungevano da terapeutici o confessionale virtuali per milioni di utenti, sono strutturalmente predisposti a raccogliere e immagazzinare i dettagli più intimi delle nostre vite. Il problema, per i non iniziati, è che spesso non si sa esattamente con chi sono condivisi questi dati, se verranno usati per addestrare i modelli, o se saranno ceduti su richiesta legale. Come sottolinea il professor Matt Green, l’utente sta fornendo all’AI un ‘profilo enorme’ e dettagliato. Questa nuova onda di vulnerabilità ha richiamato alla mente i tempi dei messaggi di testo non criptati. Infatti, è stata proprio la preoccupazione per la sicurezza delle chat che aveva spinto, anni fa, lo sviluppatore di Signal a creare un sistema di messaggistica crittografata end-to-end, usato oggi da centinaia di milioni di persone. Oggi, secondo lui, il punto critico di vulnerabilità è semplicemente migrato nell’interazione con l’AI, e lo fa in modo ‘molto più significativo’. I nostri chatbot li stiamo usando per parlare delle nostre insicurezze più profonde, del nostro stato finanziario o delle nostre relazioni. Di fronte a questo rischio, sono emerse nuove generazioni di servizi AI che promettono di mitigare l’invasione della privacy. Alcuni si limitano a promettere di non registrare le conversazioni, altri promettono l’anonimizzazione. Ma alcuni, come Confer, stanno implementando veri e propri ‘guardrail’ tecnologici per impedire che anche il loro server abbia accesso ai nostri segreti. L’industria sta creando un po’ un mercato confuso di soluzioni, da cui è difficile orientarsi. Per i più informati, la ‘zero data retention’ (ZDR) rappresenta la garanzia migliore: si tratta di contratti aziendali che obbligano i fornitori di servizi a cancellare immediatamente ogni record delle interazioni. Tuttavia, anche questa protezione è spesso relegata a account aziendali a pagamento e ha delle insidie, come quando anche i modelli più avanzati non offrono questa sicurezza per paura di abusi o ‘comportamenti autonomi’ del sistema.

🇬🇧 Summary in English

The rise of AI chatbots, featuring giants like ChatGPT and Gemini, has created an incredibly effective ‘honeypot’ for collecting our most sensitive data. These tools, which have become virtual therapists and confessionals for millions, are largely set up by default to collect and store the intimate details of our lives. The concerning part is that users often don’t know exactly who these data points are shared with—whether they’ll be used for model training, or if they’ll be handed over upon legal subpoena. As computer science professor Matt Green notes, engaging with the AI is essentially providing it with a ‘huge profile’ of one’s existence. This new data vulnerability echoes the fears of a decade ago, when unprotected texting was a major risk. Indeed, the concerns over chat security were the catalyst for the creation of Signal, the end-to-end encrypted messenger now used by hundreds of millions. However, according to experts, the critical point of vulnerability has simply shifted to AI interactions, and this time, it’s ‘orders of magnitude more significantly.’ People are using AI to discuss their deepest anxieties, finances, and relationships. In response, a new crop of services has emerged, promising to remedy the pervasive privacy invasion. Some merely *policy-promise* not to record chats; others promise anonymization. Meanwhile, advanced tools, like Confer, are building genuine technological guardrails that restrict even the service provider’s access to the user’s secrets. This nascent competition has created a confusing array of tools, making it hard for the average user to navigate. For those who are savvy, the ‘zero data retention’ (ZDR) policy is the gold standard: it’s an enterprise-level guarantee that the service provider must immediately delete interaction records. Yet, even this crucial protection is often reserved for paid, corporate accounts and comes with caveats, such as the most sophisticated models sometimes refusing the ZDR guarantee due to fears of misuse or ‘autonomous misbehavior.’

Leggi l’articolo originale su Wired EN →

Fonte: Wired EN | Argomento: Cybersecurity

#tecnologia #innovazione #technews