Il settore sanitario si trova di fronte a un dilemma tecnologico, e l’Intelligenza Artificiale generativa (GenAI) sta rendendo obsolete le vecchie regole. Non si può più trattare un chatbot clinico come un tostapane che supererà un unico collaudo in fabbrica: il problema, oggi, è la variabilità e l’evoluzione costante. La Food and Drug Administration (FDA) statunitense è stata la prima ad accorgersene, preparando un documento che propone un modello di regolamentazione radicalmente diverso. Dove gli approcci europei e italiani sembrano ancora ancorati al linguaggio degli algoritmi statici (tra MDR e AI Act), la FDA punta sulla tracciabilità del rischio. La loro proposta si basa su una matrice di valutazione a due assi: da un lato l’azione che il software compie (se si limita a informare, suggerire o se agisce da solo) e dall’altro la gravità dell’errore commesso. Questo sistema offre un criterio operativo finalmente utile per distinguere, ad esempio, un consiglio su una crema per l’edera velenosa da una modifica della dose di insulina. I sistemi GenAI, essendo spesso costruiti su modelli di terze parti (le ‘foundation model’), creano un problema di responsabilità: se il chatbot ‘allucina’ una diagnosi, chi è in colpa? La FDA, invece di imporre regole rigide, ha aperto un dibattito, invitando produttori, medici e pazienti a partecipare alla definizione di un quadro regolatorio più dinamico e flessibile.
🇬🇧 Summary in English
The healthcare sector is experiencing a tech reckoning, and Generative AI (GenAI) is making outdated regulations obsolete. Comparing it to testing a toaster—a single factory test after which nothing is checked—highlights the core problem: GenAI is inherently variable and constantly evolving. Recognizing this, the US Food and Drug Administration (FDA) has published a proposal for a significantly different regulatory model. While European and Italian approaches still seem tethered to the language of static algorithms (think MDR and AI Act), the FDA focuses on risk traceability. Their proposed system uses a two-axis matrix: one axis measures the ‘action’ the software takes (is it just informing, suggesting, or is it executing an action?), and the other measures the severity of the error. This is crucial for distinguishing between, say, suggesting a treatment for poison ivy versus adjusting insulin dosage. GenAI systems, often built on third-party ‘foundation models,’ introduce a massive accountability headache. If a clinical chatbot ‘hallucinates’ a diagnosis, who is responsible? Instead of imposing rigid rules, the FDA has launched an open discussion, inviting manufacturers, clinicians, and patients to help define a more fluid and adaptable regulatory framework.
Leggi l’articolo originale su Agenda Digitale →
Fonte: Agenda Digitale | Argomento: Tech News
#tecnologia #innovazione #technews