L’ondata di ‘Consumo AI’ sta arrivando anche alle urne, e sembra che molti americani stiano lasciando che i chatbot decidano (o almeno informino) sulle loro scelte elettorali. Sebbene molti adulti americani abbiano già interagito con assistenti AI, il loro uso per trovare informazioni su candidati e politiche è un campo minato. Questi strumenti digitali, perfino quelli che si presentano come totalmente neutrali, come ChatGPT o Gemini, hanno dimostrato di avere gravi lacune fattuali. Studi recenti hanno rivelato che quasi il 40% delle risposte elettorali fornite dai chatbot di punta conteneva almeno un errore oggettivo. Non si tratta solo di sciocchezze: in alcuni casi, gli assistenti AI hanno citato scadenze elezioni sbagliate o addirittura rifiutato di fornire risultati di elezioni già avvenute. Il nocciolo del problema, tuttavia, non è solo l’errore casuale, ma la fonte dell’informazione. I chatbot si affidano a un pool di dati online sempre più contaminato, che include un alto numero di siti ‘pink slime’—pagliacciate web che fingono di essere testate giornalistiche ma sono finanziate da gruppi ideologici. Queste fonti poco raccomandabili sono spesso citate più volte di quanto non ci si aspetterebbe. Gli esperti avvertono che i produttori di AI hanno esagerato sui limiti tecnologici, creando sistemi che, quando non sanno la risposta, non la inventano, ma la ‘predicono’, inventandola. Per chi vuole usare l’AI nella sfera politica, la prudenza (e un buon senso critico) sono l’unica guida consigliata.
🇬🇧 Summary in English
The election season is bringing consumer AI directly to the voting booth, leading many Americans to rely on sophisticated chatbots for crucial information about candidates and policies. While usage rates for AI tools are climbing, the results from these digital ‘advisors’ are worryingly unreliable. Despite the efforts of major players like ChatGPT, Claude, and Gemini to maintain neutrality, research has repeatedly shown that these models are rife with factual errors when asked about current political events. In some alarming instances, AI has provided incorrect ballot deadlines or outright refused to share confirmed election results. The root of the problem, experts argue, lies not in the model’s calculation, but in the murky data it ingests. These chatbots are increasingly drawing from a problematic corner of the internet, relying heavily on so-called ‘pink slime’ sites—websites that mimic legitimate journalism but are actually funded by political or ideological agendas. Shockingly, these questionable sources are cited by leading AI models at alarming rates. Critics are pointing out that tech companies have oversold the actual capabilities of their AI. Because the tools are predictive, when they encounter a knowledge gap, they don’t stop; they frequently ‘hallucinate’ an answer. Essentially, using these sophisticated tools for high-stakes political decision-making requires a huge dose of skepticism, as the data stream feeding them is nothing but a mess.
Leggi l’articolo originale su Wired EN →
Fonte: Wired EN | Argomento: Tech News
#tecnologia #innovazione #technews