Il mondo dell’Intelligenza Artificiale sta vivendo un’epoca di potenza straordinaria, ma anche di serissimi rischi. Anthropic ha puntato il riflettore su GLM-5.3, un modello open source sviluppato dalla cinese Z.ai, dimostrando che questo potente strumento può, involontariamente, diventare un vero e proprio kit per hacker. Il modello, simile a quanto fatto da Claude Mythos Preview, è accessibile a tutti, rendendolo potenzialmente un giocattolo pericoloso nelle mani sbagliate. L’azienda californiana ha condotto test approfonditi per mettere a nudo le vulnerabilità del sistema. Ad esempio, nelle prove con ExploitBench, GLM-5.3 è riuscito a sviluppare exploit in 50 tentativi su 410, mostrando capacità tecniche impressionanti. Ancora più inquietante è la dimostrazione che il modello è in grado non solo di sfruttare vulnerabilità note analizzando le patch di sicurezza, ma anche di individuare ‘zero-day’ (lacune sconosciute) in un browser e scrivere il codice necessario per intercettare dati sensibili dagli utenti. Ciò può avvenire anche senza dover rimuovere manualmente i protocolli di sicurezza. In sintesi, sebbene Z.ai abbia implementato alcune protezioni, il fatto che i pesi del modello siano open source significa che chi ha le competenze giuste può aggirare queste barriere. Anthropic chiarisce che GLM-5.3 non è solo un caso teorico: la sua potenza può causare danni reali nel cyber-spazio. Questo sottolinea il paradosso dei modelli open source: pur rappresentando una risorsa inestimabile per piccole aziende che non possono permettersi sistemi di sicurezza iper-costosi, sono anche un rischio palese se non gestiti con estrema cura.
🇬🇧 Summary in English
The AI landscape is booming, and with massive power comes massive risk. Anthropic recently focused a serious spotlight on GLM-5.3, an open-source model developed by China’s Z.ai. Their findings revealed a chilling capability: the model can generate the actual code needed to write exploits, essentially turning a cutting-edge AI into a powerful hacking tool. Since the model is open source and widely available, the implications are frankly alarming. The company performed rigorous testing to expose exactly how dangerous this technology can be. For instance, during tests using ExploitBench, GLM-5.3 demonstrated an impressive capability, successfully developing exploits in 50 attempts out of 410. Even more concerning was the proof that the AI can locate ‘zero-day’ vulnerabilities—those unknown gaps in software—in a browser and write the necessary code to sniff out user data from an infected webpage. It can even exploit vulnerabilities that are already known by simply analyzing security patches. Essentially, while Z.ai installed some safety rails, the open-source nature means those limits can be bypassed. Anthropic made it clear that GLM-5.3 isn’t just a theory; its capabilities could lead to real-world cyber attacks. This underscores the double-edged sword of open-source models. While they represent an invaluable resource, especially for smaller companies with limited security budgets, their immense power demands rigorous ethical controls and a deep understanding of the associated dangers.
Leggi l’articolo originale su Punto Informatico →
Fonte: Punto Informatico | Argomento: Cybersecurity
#tecnologia #innovazione #technews