Dietro il curtain call dei grandi rilasci di modelli AI vi è una crociata silenziosa, ma rumorosa, di ex dipendenti. David Robinson, un tempo specializzato nelle valutazioni di sicurezza di OpenAI, ha lasciato l’azienda per lanciare un avvertimento piuttosto secco: la cultura dell’industria è ‘fondamentalmente rotta’. Il suo messaggio supera il mero dibattito su nuove normative; è un attacco diretto al mito della ‘crescita illimitata’ di Silicon Valley. Secondo Robinson, il settore ha operato con un ‘ottimismo perpetuo’ e una fiducia quasi smodata, costruendo sistemi sempre più potenti ignorando i potenziali fallimenti. L’esigenza che emerge è un drastico cambio di marcia. L’implementazione della sicurezza, per giunta, dovrebbe avvenire con la meticolosità quasi burocratica di una centrale nucleare o di un aeroporto internazionale, con strati di ridondanza e una pianificazione che non sia fatta di sprint frenetici. Questo punto di vista si inserisce in un crescente ritratto di ‘esodo’: un gruppo di ricercatori sta lasciando i posti chiave delle AI firm, portando con sé l’inquietudine che il progresso sta procedendo a velocità troppo elevate e con troppa superficialità, rischiando di aprire porte al disastro umano.

🇬🇧 Summary in English

A noticeable exodus of safety experts is sounding the alarm, pointing fingers at the very culture that birthed the AI giants. David Robinson, who previously penned crucial safety reports for OpenAI, resigned to deliver a stark diagnosis: the industry’s culture is ‘fundamentally broken.’ His warning isn’t just about slapping on a few new rules; it’s a critique of Silicon Valley’s deeply ingrained ‘unimpeded optimism.’ He argues that the tech world has operated with a level of ‘extreme confidence,’ building increasingly powerful models by consistently downplaying or outright ignoring genuine risks. What’s needed, according to Robinson, is a massive dose of humility. The safety implementation, specifically, shouldn’t resemble the chaotic speed of a tech startup, but rather the highly redundant and meticulously planned operations of a nuclear power plant or a busy international airport. This perspective joins a growing parade of resignations, with researchers like Jacob Coxon and others departing leading AI firms. Together, they form a collective worry that progress is moving at an unsustainable pace, prioritizing speed over the deep, patient planning necessary to mitigate existential risks. It’s a call for a dramatic deceleration and a serious reassessment of priorities.

Leggi l’articolo originale su The Verge →

Fonte: The Verge | Argomento: Hardware & Chip

#tecnologia #innovazione #technews