In un’epoca in cui l’intelligenza artificiale generativa sta rapidamente entrando nei processi decisionali pubblici e privati, un caso clamoroso scuote il settore della consulenza: Deloitte, colosso globale della revisione e dell’advisory, ha ammesso di aver utilizzato impropriamente strumenti di AI generativa nella redazione di un rapporto governativo australiano sui sistemi di welfare.
Il documento, commissionato per 440.000 dollari dal governo federale, conteneva errori sostanziali come citazioni accademiche inventate, riferimenti a libri inesistenti e persino falsi estratti di sentenze giudiziarie. L’impiego scorretto di un modello GPT-4o, offerto da Azure OpenAI, senza un’adeguata supervisione umana, ha sollevato un acceso dibattito sull’affidabilità dell’AI in ambiti delicati come la consulenza pubblica.
Siamo davvero pronti a lasciare che un algoritmo influenzi le scelte politiche e sociali? E quali rischi corriamo quando la velocità e l’automazione prendono il posto dell’accuratezza e della responsabilità?
Errori gravi nel rapporto: citazioni false e fonti inventate
Il rapporto redatto da Deloitte e commissionato dal governo australiano si è rivelato gravemente compromesso da un uso eccessivamente disinvolto dell’intelligenza artificiale generativa. Almeno dodici opere accademiche citate risultano inesistenti, tra cui libri e articoli mai pubblicati.
Inoltre, una citazione giudiziaria attribuita erroneamente alla giudice federale Jennifer Davies (il cui nome è stato persino scritto in modo scorretto come “Davis”) si è rivelata falsa.
Questa citazione riguardava la controversa vicenda Robodebt, uno scandalo che aveva già sollevato forti critiche in Australia per l’utilizzo di sistemi automatizzati nel calcolo dei debiti sociali dei cittadini.
L’uso del GPT-4o senza revisione umana
Alla base degli errori vi è stato l’impiego di un modello GPT-4o tramite la piattaforma Azure OpenAI, utilizzato da Deloitte per colmare lacune documentali durante la stesura del rapporto. Tuttavia, secondo quanto ammesso dalla stessa società, l’uso dell’AI non è stato accompagnato da una supervisione umana qualificata. È in questo contesto che si sono generate le false citazioni e le imprecisioni.
Nonostante ciò, Deloitte ha dichiarato che gli errori non hanno alterato le conclusioni fondamentali e le raccomandazioni finali del documento.
La scoperta del caso: l’intervento dell’accademico Christopher Rudge
A scoprire per primo le irregolarità è stato il Dr. Christopher Rudge, accademico dell’Università di Sydney, esperto in diritto e metodologia della ricerca. Dopo aver analizzato attentamente il documento, Rudge ha denunciato la presenza di contenuti falsificati e ha sollevato dubbi sulla validità del processo con cui il rapporto è stato prodotto.
A suo dire, “non ci si può fidare delle raccomandazioni di un rapporto costruito su fonti non verificate e su dati generati da un’intelligenza artificiale senza controllo”.
Il caso ha immediatamente suscitato reazioni politiche. La senatrice Deborah O’Neill, membro della commissione parlamentare sulla trasparenza delle società di consulenza, ha criticato duramente Deloitte per “mancanza di intelligenza umana” e ha chiesto un’indagine più rigorosa sui contratti pubblici che prevedono l’uso di AI.
Secondo O’Neill, è fondamentale sapere esattamente chi compie il lavoro pagato con fondi pubblici e in che modo vengono impiegati strumenti automatizzati nella redazione di documenti governativi.
Un allarme sulla supervisione dell’AI nei servizi pubblici
La vicenda ha messo in luce una questione più ampia: l’assenza di regolamentazioni efficaci sull’uso dell’intelligenza artificiale nei contratti e nelle consulenze governative. Mentre molte società adottano rapidamente soluzioni AI per ridurre tempi e costi, manca un adeguato sistema di controlli umani.
Secondo recenti indagini, circa il 40% dei lavoratori afferma di dover correggere frequentemente contenuti generati da AI, impiegando in media quasi due ore aggiuntive ogni settimana per rimediare agli errori.
Il paradosso di Deloitte: investire miliardi nell’AI e poi sbagliare con l’AI
C’è un’alta dose di ironia nel fatto che proprio Deloitte, che prevede di investire oltre 4,5 miliardi di dollari nell’intelligenza artificiale entro il 2030 e che nel solo anno fiscale 2025 ha generato 2,55 miliardi di dollari di ricavi in Australia, abbia fatto affidamento su uno strumento AI non supervisionato per un compito tanto delicato.
Ancora più paradossale è che l’analisi doveva esaminare i danni causati da un altro sistema automatizzato: il famigerato Robodebt.
Il precedente di Robodebt: un sistema automatizzato che ha fallito
Il Robodebt è stato un programma governativo australiano, basato su algoritmi, che aveva il compito di individuare presunti debiti sociali dei cittadini attraverso un confronto automatico tra dati fiscali e previdenziali. Il sistema ha però generato migliaia di errori, notificando debiti inesistenti a persone innocenti e causando danni economici e psicologici enormi.
Lo scandalo ha avuto un impatto devastante sull’opinione pubblica e ha portato a inchieste e rimborsi da parte del governo.
Le dichiarazioni ufficiali: errore riconosciuto ma “nessun impatto”
In seguito alle polemiche, Deloitte ha ammesso ufficialmente gli errori e ha concordato con il governo il rimborso dell’ultima tranche del contratto. La società ha dichiarato che “la questione è stata risolta direttamente con il cliente” e che gli errori non hanno influenzato “le conclusioni fondamentali” del rapporto.
Anche il dipartimento governativo committente ha confermato che il problema è stato chiuso. Tuttavia, il danno reputazionale e la sfiducia sull’uso dell’AI in ambito pubblico restano.
