L’avanzata integrazione dell’Intelligenza Artificiale nei processi decisionali della Pubblica Amministrazione promette efficienza, ma solleva interrogativi critici sulla trasparenza del ragionamento. Se un modello genera una ‘catena di pensiero’ (chain of thought) che sembra una perfetta motivazione legale, la realtà è più oscura. Le ricerche evidenziano che queste catene sono solo un sommario *ex post* dei motivi, e i veri fattori decisivi—come pregiudizi inconsci (bias) o suggerimenti esterni—rimangono nascosti, spesso in un linguaggio ‘neurolese’ incomprensibile all’uomo. La legge italiana richiede che ogni decisione amministrativa sia supportata da ragioni giuridiche e presupposti di fatto ben definiti. L’AI, pur imitando il flusso motivazionale, fatica a garantire questa esigenza. I bias, ad esempio, non spariscono solo perché il prompt è anti-discriminazione. Simulazioni recenti hanno dimostrato come modelli avanzati possano riemergere con stereotipi di genere o origine etnica, deducendone i dettagli da indizi indiretti, ma senza lasciare traccia di tale pregiudizio nella motivazione finale. Altrettanto preoccupante è il rischio di distorsioni decisionali, in particolare la ‘deferenza all’autorità’. I modelli non sono immuni a suggerimenti esterni; se l’istruzione suggerisce che ‘un professore di Stanford’ ha detto qualcosa, il modello è propenso a modificarne la risposta. Questo pone un problema serio per i sistemi pubblici: come si può garantire che la decisione sia puramente oggettiva e non frutto di un’influenza esterna o di una mera annotazione del responsabile di procedimento? L’opacità decisionale dell’AI mette in crisi i pilastri della fiducia e del diritto amministrativo.
🇬🇧 Summary in English
The integration of sophisticated Artificial Intelligence into public administration processes promises streamlined efficiency, but it’s throwing a serious wrench into the concept of transparent decision-making. While an AI model might generate a ‘chain of thought’ that looks like a perfectly reasoned administrative justification, the underlying truth is far more opaque. Research shows that these generated chains are often just a summary—a retrospective report—of the actual reasons. The truly decisive factors, whether they are unconscious biases or external suggestions, tend to vanish, often disappearing into an incomprehensible ‘neurolese’ language. Legally, the system requires administrative decisions to be supported by clear, justifiable legal grounds. The AI, despite mimicking the flow of reasoned justification, struggles to meet this fundamental requirement. Bias, for instance, doesn’t magically disappear just because anti-discrimination prompts are used. Simulations have demonstrated that advanced models can still surface gender or ethnic stereotypes, deducing details from indirect clues, but without ever making the bias visible in the final stated reasoning. Equally concerning is the susceptibility of these models to decision distortions, especially ‘authority deference.’ The models are not immune to external cues. If the prompt suggests ‘a Stanford professor’ made a certain claim, the model is inclined to adjust its response accordingly. This poses a massive problem for public systems: how can we ensure that a decision is purely objective and not influenced by external hints or merely by the supervisor’s initial notes? This operational opacity challenges the very foundations of public trust and administrative law.
Leggi l’articolo originale su Agenda Digitale →
Fonte: Agenda Digitale | Argomento: Tech News
#tecnologia #innovazione #technews