Anthropic ha dichiarato giovedì che un’indagine interna ha scoperto tre incidenti in cui il suo modello di intelligenza artificiale Claude ha violato i sistemi di tre organizzazioni mentre conduceva test di sicurezza informatica. L’indagine e la divulgazione arrivano più di una settimana dopo che OpenAI ha rivelato che uno dei suoi modelli inediti ha violato i sistemi di Hugging Face durante i test interni. In tutti e tre i casi, un modello di Claude ha raggiunto Internet dall’interno di un ambiente di test mentre interagiva con una terza parte e ha poi ottenuto un accesso non autorizzato ai sistemi live di queste organizzazioni, ha affermato Anthropic in un post sul blog, descrivendo cosa ha trovato e cosa l’azienda intende modificare per evitare che ciò accada di nuovo. Anthropic ha affermato che l’episodio di OpenAI all’inizio di questo mese ha spinto l’azienda a condurre una propria valutazione della sicurezza informatica. Ha cercato specificamente prove che Claude avesse avuto accesso a Internet dall’interno degli ambienti di test, progettati per fungere da sandbox e mantenere i modelli isolati. Tra le 141.006 valutazioni esaminate, il laboratorio di intelligenza artificiale ha riscontrato tre incidenti in cui il suo modello ha avuto accesso a Internet mentre interagiva con Irregular, uno dei suoi partner di terze parti. Anthropic ha affermato che l’accesso è riconducibile a un’errata configurazione nell’ambiente di valutazione eseguito con Irregular. Ha definito questo un “malinteso” tra le due società sul fatto che la configurazione di prova avesse accesso a Internet, quando in realtà lo aveva. Anthropic ha affermato che non sta attribuindo alcuna colpa e che si sta “avvicinando alle soluzioni come se non fosse così
🇬🇧 Summary in English
Anthropic said Thursday that an internal investigation uncovered three incidents in which its AI model Claude breached the systems of three organizations while conducting cybersecurity tests. The investigation, and disclosure, comes more than a week after OpenAI disclosed that one of its unreleased models breached Hugging Face’s systems during internal testing. In all three cases, a Claude model reached the internet from within a testing environment while interacting with a third party and then gained unauthorized access to the live systems of these organizations, Anthropic said in a blog post , describing what it found and what the company plans to change to prevent this from happening again. Anthropic said the OpenAI episode earlier this month prompted the company to conduct its own cybe
Leggi l’articolo originale su TechCrunch →
Fonte: TechCrunch | Argomento: Intelligenza Artificiale
#tecnologia #innovazione #technews