Anthropic sta spingendo per un disegno di legge sulla sicurezza dell’Intelligenza Artificiale che, se approvato, potrebbe ridefinire i confini dello sviluppo dei modelli di frontiera. Il piano, che mira a rassicurare il pubblico dopo le numerose preoccupazioni generate da agenti IA ‘fuori controllo’, stabilisce regole molto specifiche per l’intervento statale. Il nocciolo della questione è che il governo avrebbe il potere di bloccare il rilascio di un nuovo modello AI, ma solo se questo fosse in grado di causare danni pari o superiori a un miliardo di dollari, oppure se mettesse a rischio la vita o l’integrità fisica di oltre 50 persone. In pratica, se il danno è leggermente inferiore a queste soglie, il rischio viene considerato ‘accettabile’. Il sistema prevede inoltre che l’alto rischio debba derivare specificatamente da bioterrorismo, da un’evasione dei controlli da parte dello sviluppatore o da attacchi informatici. La supervisione sarebbe affidata a valutatori indipendenti, registrati al Department of Commerce, che dovrebbero esaminare i modelli e segnalare eventuali criticità. Se l’allarme suona troppo forte, il Department di Commercio dovrebbe portare le prove di fronte a un giudice federale che, solo allora, darebbe il via libera o lo stop al modello. Questa proposta, che ricorda molto le normative della California, è stata presentata in un contesto di dibattito legislativo sempre più acceso sull’etica e i limiti del progresso tecnologico.

🇬🇧 Summary in English

Anthropic is advocating for a draft AI safety bill that aims to provide a regulatory safety net for highly advanced AI models. The proposal, which follows heightened public anxiety over AI agents ‘going rogue,’ outlines very precise conditions under which the government can intervene. The core provision is that federal authorities could halt the release of a new AI model only if it poses a threat of at least $1 billion in damages or the risk of injury or death to more than 50 people. What this seemingly straightforward threshold implies is that anything less—say, $999 million in damages or 49 casualties—is considered a manageable, acceptable risk. Furthermore, the risk must stem from specific sources: biological weapons, the model evading developer controls, or severe cyberattacks. The bill establishes a rigorous oversight mechanism: independent evaluators, registered with the Department of Commerce, would be tasked with periodically auditing the models. If the evaluators detect alarming risks, they must report to Commerce, which would then need to present the evidence to a federal judge in Washington D.C. for the final decision on deployment. This highly controlled framework, echoing parts of California’s SB 5, is Anthropic’s attempt to provide a clear roadmap for regulating the dizzying pace of AI innovation.

Leggi l’articolo originale su Reddit →

Fonte: Reddit | Argomento: Intelligenza Artificiale

#tecnologia #innovazione #technews