Un piccolo, ma inquietante, ritratto della sicurezza nel mondo dell’IA. I ricercatori di Parameter Labs hanno scoperto una falla nei meccanismi di ChatGPT che permetteva a un semplice link condiviso di trasformarsi in uno strumento di spionaggio digitale. Il trucco non era banale, ma sfrutta la funzione di anteprima web del chatbot. Quando ChatGPT visualizza un’anteprima di codice HTML, è praticamente in modalità ‘test’; e qui sta il punto debole da cui gli hacker hanno colto la crepa. Il meccanismo sfruttato coinvolgeva la libreria MathLive, caricata nel frame principale tramite la chat condivisa. Questa libreria aveva una funzione di ascolto (listener) super permissiva. I tecnici hanno capito che questo listener accettava messaggi con codice HTML da *qualsiasi* mittente, aggirando così i protocolli di sicurezza (la tanto celebrata sandbox) che dovrebbero isolare le conversazioni. In pratica, il link malizioso inviava il codice direttamente nella pagina principale del bot. Se una vittima apriva quel link, senza accorgersene, il JavaScript contenuto veniva eseguito, concedendo l’accesso non solo alla lettura delle conversazioni private, ma potenzialmente anche all’esecuzione di qualsiasi azione sull’account dell’utente. OpenAI è intervenuta tempestivamente a fine ottobre, chiudendo la porta. E, naturalmente, ha premiato i ricercatori per aver reso l’IA un po’ più sicura.

🇬🇧 Summary in English

A little, yet unsettling, look into the security landscape of AI. Researchers at Parameter Labs uncovered a vulnerability in ChatGPT that allowed a seemingly innocent shared link to turn into a digital eavesdropping tool. The exploit wasn’t a simple glitch; it cleverly leveraged the chatbot’s web preview function. When ChatGPT displays a web preview from raw HTML code, it’s operating in a ‘test’ environment—and that’s where the security hiccup lay. The mechanism revolved around the MathLive library, which was loaded into the main chat frame via the shared content. Experts found that this library featured a highly permissive ‘listener.’ Crucially, this listener accepted HTML code and data from *any* sender, effectively bypassing the sandboxing protocols designed to keep conversations isolated. The malicious link thus delivered code directly into the main chat interface. Upon opening the link, an unsuspecting user would unknowingly execute the embedded JavaScript. This granted potential attackers not only the ability to read private chats but also the power to perform any action tied to the victim’s logged-in account. OpenAI quickly patched the issue at the end of October, earning the researchers a substantial reward for helping secure the platform.

Leggi l’articolo originale su Punto Informatico →

Fonte: Punto Informatico | Argomento: Intelligenza Artificiale

#tecnologia #innovazione #technews