Deloitte erkent AI-fouten in rapport voor Australische overheid

In een opmerkelijke wending heeft Deloitte Australië toegegeven dat het een rapport aan de federale overheid deels heeft opgesteld met behulp van kunstmatige intelligentie – en dat het rapport verzadigd was met fouten. Het bedrijf zal daarom een deel van de betaling terugbetalen.

Achtergrond: Het rapport en de opdracht

In december 2024 kreeg Deloitte de opdracht van het Department of Employment and Workplace Relations (DEWR) om een onafhankelijke “assurance review” uit te voeren op het Targeted Compliance Framework (TCF) en bijbehorende IT-systemen, die automatische sancties opleggen wanneer werkzoekenden hun verplichtingen niet nakomen. 

Deloitte to pay money back to Albanese government after using AI in $440,000 report Partial refund to be issued after several errors were found in a report into a department’s compliance framework

Toen het rapport in juli 2025 werd gepubliceerd, circuleerden al snel berichten dat het document fouten bevatte: vermeende citaten van niet-bestaande academici, verwijzingen naar onbestaande wetenschappelijke werken, en zelfs een verzonnen citaat van een federale rechtbank. 

De Australische wetenschapper Christopher Rudge (Universiteit van Sydney) ondervond deze onnauwkeurigheden en bestempelde ze als AI-“hallucinaties”, waarbij een taalmodel plausible, maar onjuiste informatie “denkt” toe te voegen. 

Fouten blootgelegd en correcties doorgevoerd

Nadat de gebreken publiek werden, trok DEWR het originele rapport terug en publiceerde een herziene versie. In deze versie werden meer dan een dozijn valse verwijzingen verwijderd of gecorrigeerd, typfouten weggewerkt, en de referentielijst herschreven. 

In de nieuwe versie werd ook voor het eerst bekendgemaakt dat bij de opstelling van delen van het rapport generatieve AI (Azure OpenAI GPT-4o) was gebruikt.

DEWR benadrukte dat hoewel de fouten waren hersteld, de kerninhoud en aanbevelingen van het rapport ongewijzigd bleven. 

Financiële consequenties en publieke kritiek

Deloitte heeft ingestemd met het terugbetalen van de laatste schijf van de opdracht – een bedrag in de orde van 440.000 AU$ (ongeveer 290.000 Amerikaanse dollars). 

Critici – waaronder senator Deborah O’Neill – verwijten Deloitte een “probleem van menselijke intelligentie” en wringen zich in verbazing over het gemak waarmee zogenaamd professionele rapporten fouten bevatten die zelfs een eerstejaarsstudent niet zou maken.

Hoewel Deloitte erkent dat sommige voetnoten en citaten incorrect waren, weigert het bedrijf expliciet AI de schuld te geven van de fouten. Ze benadrukken dat de inhoud en conclusies van het rapport overeind blijven.

Breder belang: Risico’s van AI in adviesdiensten

Deze affaire werpt een fel licht op de risico’s van afhankelijkheid van generatieve AI in consultancyrapporen. AI-modellen zijn gevoelig voor “hallucinaties” — het genereren van misleidende beweringen of verzonnen feiten — wanneer ze taken uitvoeren zonder voldoende menselijke controle.

Tegelijkertijd onderstreept het incident dat zelfs toonaangevende adviesbedrijven kwetsbaar zijn wanneer ze transparantie, verificatieprocessen of kwaliteitsborging verwaarlozen.

Concurrenten zoals EY, KPMG, PwC en BCG wijzen erop dat zij strengere AI-verificatieroutines hanteren om dergelijke fouten te vermijden.

EY, KPMG, PwC and BCG spruik AI rules after Deloitte’s botched report Firms say they have strict vetting processes after Deloitte was forced to reissue a $440,000 report containing artificial intelligence-related errors.

Deloitte’s fout in Australië is niet alleen een financiële stommiteit, maar een waarschuwing voor de gehele adviesbranche: snelheid en technologische innovatie mogen nooit ten koste gaan van zorgvuldigheid en waarheidsgetrouwheid.

Een stevigere balans tussen AI en menselijke expertise, verplichte transparantie in AI-gebruik, en striktere controlemechanismen moeten de norm worden — zeker bij opdrachten met maatschappelijke impact.