🇮🇹 Sintesi in Italiano
Sembra che i tempi per gli attacchi alle IA siano arrivati in grande. OpenAI, prima ancora di tirare fuori l’ennesima bomba, ha dovuto mettere un soldatino addestratore: GPT-Red. Questo modello non lo troverete sul mercato consumer, è invece il ‘vaccino’ super sofisticato utilizzato dagli ingegneri per blindare la prossima iterazione dei loro modelli, GPT-5.6 Sol. Il motivo? I cybercriminali sono birichini e sanno nascondere istruzioni dannose—quelle che i tecnici chiamano ‘prompt injection’—in email, pagine web o repository online. Queste istruzioni possono far sì che un’IA rubi dati sensibili o esegua comandi fuori luogo. Per difendersi da questo tipo di minacce altamente evasive, OpenAI ha creato GPT-Red. Questo meccanismo è in grado di simulare attacchi complessi: invia un prompt, valuta la risposta e poi ripete il processo finché non trova una falla. L’approccio è così avanzato che i sistemi di difesa (come GPT-5.6 Sol) vengono addestrati a resistere al super-hacker stesso. La tecnica impiegata si chiama self-play reinforcement learning: significa che GPT-Red viene premiato per ogni successo nell’attaccare, mentre i modelli difensivi ricevono un bonus per la loro resilienza. Questo scambio continuo costringe gli attaccanti a diventare sempre più creativi e potenti. Il risultato è un GPT-5.6 Sol che, secondo le demo di OpenAI, bloccando con stile tentativi di rubare credenziali AWS o di disabilitare l’autenticazione a due fattori. Per il futuro, intendono aumentare la potenza di calcolo non solo per i modelli principali, ma anche per migliorare GPT-Red stesso, creando un ciclo virtuoso di sicurezza continua.
🇬🇧 Summary in English
It looks like the age of AI hacking has arrived in full force. Before launching its next flashy consumer model, OpenAI had to deploy a sophisticated internal defense mechanism: GPT-Red. This isn’t something consumers will find on the shelves; it’s essentially the ‘vaccine’ used by engineers to fortify their upcoming models, GPT-5.6 Sol. Why the paranoia? Because cybercriminals are tricky and know how to hide malicious instructions—what experts call ‘prompt injection’—within emails, websites, or online repositories. These sneaky commands can trick an AI into leaking sensitive data or executing unauthorized actions. To combat these highly evasive threats, OpenAI developed GPT-Red. This mechanism is capable of simulating complex attacks: it sends a prompt, evaluates the response, and repeats the cycle until it uncovers a vulnerability. The approach is so advanced that the defensive systems (like GPT-5.6 Sol) are trained to withstand being attacked by the super-hacker himself. This entire process uses ‘self-play reinforcement learning,’ meaning GPT-Red gets rewarded for every successful attack, while the defensive models get rewarded for their sheer resilience. This continuous back-and-forth forces both sides to become increasingly creative and robust. The outcome is a highly secured GPT-5.6 Sol that, according to OpenAI’s demos, can stylishly block attempts to steal AWS credentials or disable two-factor authentication. Looking ahead, the company plans to increase computational power not just for its main models, but also for improving GPT-Red itself, creating a virtuous cycle of continuous security improvement.
Leggi l’articolo originale su Punto Informatico →
Fonte: Punto Informatico | Argomento: Intelligenza Artificiale
#tecnologia #innovazione #technews