Nel dibattito sull’uso dell’intelligenza artificiale (AI) nelle consulenze pubbliche, il recente report di Deloitte sta sollevando interrogativi sulla qualità delle analisi commissionate dai governi.
Sommario
Come è emerso il caso del report di Deloitte in Canada?
Un rapporto sanitario di Deloitte, commissionato dal governo della provincia canadese di Terranova e Labrador, contiene errori potenzialmente generati da AI. Il documento, costato quasi 1,6 milioni di dollari canadesi, è finito sotto esame dopo un’inchiesta pubblicata sabato da The Independent, testata progressista che segue da vicino la regione.
L’indagine ha analizzato un report di 526 pagine, diffuso dal governo provinciale lo scorso maggio. Il documento forniva raccomandazioni al Dipartimento della Salute e dei Servizi Comunitari allora guidato dai liberali, affrontando temi come telemedicina, incentivi alla permanenza del personale e impatto della pandemia di COVID-19 sugli operatori sanitari.
Il report arrivava in un momento delicato per il sistema sanitario locale, già alle prese con carenze di medici e infermieri. Tuttavia, le irregolarità emerse sulle fonti utilizzate rischiano ora di minare la credibilità dell’intero lavoro.
Quali errori e citazioni false sono stati individuati?
L’inchiesta di The Independent ha rilevato che il documento conteneva citazioni false, tratte da articoli accademici inesistenti, usate per giustificare analisi di costo-efficacia. Inoltre, sono state attribuite a ricercatori reali pubblicazioni a cui non avevano mai partecipato.
In alcuni casi, il report includeva persino riferimenti a studi co-firmati da studiosi che hanno dichiarato di non aver mai lavorato insieme. Inoltre, è stata citata una pubblicazione del Canadian Journal of Respiratory Therapy che, a oggi, non risulta reperibile nella banca dati della rivista.
Detto ciò, l’uso di riferimenti non verificabili non viene esplicitamente spiegato nel documento. Proprio questa opacità rafforza il sospetto che strumenti di generazione automatica del testo possano avere contribuito alla produzione delle citazioni.
Il ruolo dell’intelligenza artificiale nelle citazioni del report
Intervistata da The Independent, Gail Tomblin Murphy, docente a contratto presso la School of Nursing della Dalhousie University in Nuova Scozia, ha dichiarato che alcune citazioni a lei attribuite fanno riferimento a un articolo accademico “che non esiste”.
Tomblin Murphy ha spiegato di aver collaborato solo con tre dei sei presunti coautori indicati nel riferimento errato. A suo giudizio, la presenza di elementi inventati suggerisce un utilizzo «piuttosto intenso» dell’AI per generare parti del lavoro, soprattutto nella sezione bibliografica.
«Dobbiamo essere molto attenti a garantire che le evidenze alla base di questi report siano le migliori disponibili e validate», ha aggiunto. Inoltre, ha ricordato come documenti di questo tipo, finanziati con fondi pubblici, debbano essere accurati, basati su prove solide e realmente utili per orientare le decisioni future.
La posizione ufficiale di Deloitte sul caso canadese
In una dichiarazione inviata a Fortune, un portavoce di Deloitte Canada ha difeso il lavoro svolto. «Deloitte Canada sostiene fermamente le raccomandazioni contenute nel nostro report», ha affermato la società di consulenza, annunciando al contempo una revisione per correggere «un piccolo numero di citazioni».
Secondo l’azienda, tali correzioni non inciderebbero sui risultati né sulle conclusioni del documento. Deloitte ha inoltre precisato che l’AI non sarebbe stata utilizzata per scrivere il report, ma solo «in modo selettivo» per supportare alcune ricerche bibliografiche.
Tuttavia, la distanza tra questa versione e quanto emerso dall’inchiesta alimenta il dibattito pubblico sulla necessità di una più rigorosa verifica dei fatti nelle consulenze pagate con denaro dei contribuenti.
Costi, tempistiche e reazioni politiche
Il governo di Terranova e Labrador ha speso poco meno di 1,6 milioni di dollari per il report, versando l’importo in otto rate, come risulta da una richiesta di accesso agli atti pubblicata in un post sul blog mercoledì scorso. Al momento di lunedì, il documento è ancora disponibile sul sito ufficiale del governo canadese.
Nel frattempo, lo scenario politico provinciale è cambiato. Tony Wakeham, leader del Partito Conservatore Progressista, è stato nominato nuovo premier alla fine di ottobre. Né l’ufficio del premier né il Dipartimento della Salute e dei Servizi Comunitari hanno risposto alle richieste di commento di Fortune sul report di maggio, né hanno affrontato pubblicamente la questione.
Questo silenzio istituzionale, almeno per ora, lascia irrisolto il tema della responsabilità politica e amministrativa per la gestione dell’appalto e per l’eventuale revisione del documento.
Il precedente australiano e i rischi di errori AI nel report Deloitte
Il caso canadese arriva poche settimane dopo un altro episodio che ha coinvolto la stessa società di consulenza. In Australia, Deloitte ha utilizzato l’intelligenza artificiale in un report da 290.000 dollari australiani, pubblicato a luglio, incaricato dal governo per sostenere un giro di vite sul welfare.
Anche in quel caso, un ricercatore ha individuato «allucinazioni» nel documento di 237 pagine, tra cui riferimenti a studi accademici inesistenti e una citazione inventata da una sentenza di un tribunale federale. Il report è stato successivamente corretto e ricaricato in forma aggiornata sul sito del governo australiano.
Nella versione rivista, Deloitte ha ammesso di aver utilizzato il sistema di linguaggio generativo Azure OpenAI per contribuire alla stesura del testo. Tuttavia, la società ha sottolineato che gli aggiornamenti «in nessun modo incidono sui contenuti sostanziali, sui risultati o sulle raccomandazioni» presenti nel documento.
Rimborsi e responsabilità tra Australia e Canada
Come conseguenza delle criticità emerse, la consociata australiana di Deloitte è stata obbligata a restituire al governo una parte del compenso ricevuto per lo studio. Inoltre, il caso ha alimentato nel Paese un dibattito più ampio sulla supervisione delle consulenze esterne.
Per quanto riguarda il Canada, non sono stati ancora resi pubblici eventuali accordi di rimborso o riduzione dei costi relativi al report su Terranova e Labrador. Nel complesso, la vicenda riaccende il tema della verifica indipendente e della revisione dei documenti prodotti da grandi società di consulenza per la pubblica amministrazione.
In questo quadro, la controversia sul report Deloitte errori mostra come l’uso non trasparente dell’AI e la mancanza di rigorosi controlli sulle citazioni possano avere conseguenze dirette sulla fiducia dei cittadini e sulla qualità delle politiche pubbliche.




