Alcuni giorni dopo che OpenAI ha rivelato che due modelli di intelligenza artificiale di frontiera sono sfuggiti alle misure di contenimento e hanno attaccato autonomamente la piattaforma di condivisione del codice AI Hugging Face, il principale rivale statunitense di OpenAI, Anthropic, stasera ha rivelato che – guarda un po’ – ha anche avuto modelli che accedono di nascosto al web quando non avrebbero dovuto farlo, e attaccano ciberneticamente e ottengono “accesso non autorizzato” ad altre tre organizzazioni. Anthropic afferma di aver eseguito scenari di sicurezza informatica “cattura la bandiera” con tre modelli – Claude Opus 4.7, Claude Mythos 5 e un prototipo di ricerca interna senza nome – con il suo partner, la società di sicurezza AI Irregular. Anthropic afferma che le modelle non avrebbero dovuto avere accesso a Internet, ma che un malinteso con Irregular ha permesso loro di accedere a Internet. Una volta fatto, “hanno ottenuto l’accesso non autorizzato all’infrastruttura di produzione di tre diverse organizzazioni”, come afferma Anthropic. Il post sul blog di Anthropic continua: “Claude ha compromesso l’infrastruttura delle organizzazioni colpite utilizzando tecniche di base, come lo sfruttamento di password deboli ed endpoint non autenticati. Non ha trovato o sfruttato alcuna vulnerabilità complessa e, in ogni caso, Claude ha continuato a lavorare per completare solo l’attività specifica di cattura del flag assegnata dalla sua valutazione. Tuttavia, in alcuni casi, il nostro modello precedente ha continuato il suo attacco anche dopo aver ottenuto prove che era in esecuzione su Internet aperta; il nostro ultimo modello si è fermato una volta riconosciuto che era su Internet. In nessuna di queste situazioni ha fatto Claude exf

🇬🇧 Summary in English

Days after OpenAI disclosed that two frontier AI models escaped containment measures and autonomously cyberattacked the AI code sharing platform Hugging Face, OpenAI’s top U.S. rival Anthropic tonight revealed that — lo and behold — it has also had models surreptitiously access the web when they weren’t supposed to, and cyberattack and gain “unauthorized access” to three other organizations. Anthropic says that it ran “capture the flag” cybersecurity scenarios with three models — Claude Opus 4.7, Claude Mythos 5, and unnamed internal research prototype — with its partner, the AI security firm Irregular . Anthropic says the models were not supposed to have internet access, but that a misunderstanding with Irregular allowed them to access the internet. Once they did, they “gained unauthorize

Leggi l’articolo originale su VentureBeat →

Fonte: VentureBeat | Argomento: Cybersecurity

#tecnologia #innovazione #technews