L’IA genera documenti falsi che influenzano il Parlamento australiano

Un problema inaspettato per il sistema di consultazione pubblica

Il Parlamento australiano sta affrontando un problema inaspettato legato all’uso dell’intelligenza artificiale (IA) nella creazione di documenti falsi. Studi mai pubblicati, ricerche inesistenti e lavori attribuiti a studiosi reali sono stati trovati tra i materiali presentati alle commissioni parlamentari. Questo fenomeno, reso possibile dall’uso di modelli linguistici generativi, rischia di compromettere la qualità delle informazioni su cui i deputati basano le loro decisioni. Il sistema di consultazione pubblica, che permette a cittadini, associazioni e esperti di partecipare al dibattito politico, si trasforma in una porta d’ingresso per informazioni apparentemente autorevoli ma completamente inventate.

La disinformazione si diffonde attraverso i database Un’inchiesta condotta da Guardian Australia ha rivelato che decine di documenti presentati al Parlamento contengono riferimenti bibliografici non verificabili. Alcuni di questi materiali sono arrivati fino ai rapporti delle commissioni parlamentari. Il rischio, avverte Christian Downie, professore all’Università nazionale australiana, è che il problema superi il semplice errore bibliografico e porti a decisioni politiche basate su prove non esistenti. I documenti, spesso generati con l’AI, contengono citazioni errate o inesistenti, e in alcuni casi, i riferimenti vengono presentati come se fossero autentici.

La confusione dei servizi di ricerca

La situazione è ulteriormente complicata da servizi come la ricerca di Google, che a volte sintetizza riferimenti inventati come se fossero veri. In alcuni casi, sia il riepilogo IA di Google che ChatGPT citano lo stesso documento falso, alimentando un ciclo di disinformazione. Un documento presentato per un’inchiesta su violenza familiare e suicidio conteneva un riferimento allucinato attribuito a Divna Haslam, professoressa all’Università del Queensland e psicologa clinica. Haslam ha definito il riferimento “inquietante”, poiché sembrava talmente reale da poter convincere chi lo osservasse con superficialità.

Un errore umano ha contribuito al problema L’autore del documento, Drilldown Reports, ha dichiarato di aver utilizzato l’IA nel processo di ricerca e di aver individuato gli errori in un documento successivo, ma la scadenza per la correzione era già passata. “Crediamo fermamente nel fattore umano e nel fatto che debba essere una parte fondamentale del processo di revisione della qualità”, ha dichiarato un portavoce. “Purtroppo, anche il fattore umano ci ha traditi al momento di caricare il documento corretto.”

I documenti contenenti materiale generato dall’IA vanno da testi con un numero limitato di citazioni errate a pubblicazioni in cui nessuno dei riferimenti citati esiste realmente. Sono stati redatti da individui e organizzazioni di tutto lo spettro politico. Quando Guardian Australia ha contattato le persone e le organizzazioni responsabili, molte non erano a conoscenza del fatto che l’IA potesse sbagliare in questo modo, oppure ne erano consapevoli ma non se ne erano accorte prima di presentare il documento.

• Decine di documenti presentati al Parlamento contengono riferimenti inesistenti.
• La ricerca di Google e ChatGPT contribuisce alla diffusione di informazioni false.
• Il problema rischia di influenzare decisioni politiche basate su dati non verificati.