Deloitte betrapt met AI-blunder: $440.000 rapport vol verzonnen bronnen

Het had een prestigieus en zorgvuldig rapport moeten zijn: Deloitte Australië leverde een rapport van maar liefst $440.000 af aan de federale overheid. Maar inmiddels moeten ze het geld gedeeltelijk terugbetalen, want – je raadt het al – AI ging aan de haal met de waarheid.

Wat ging er mis?

Uit het artikel in de Financial Review blijkt dat Deloitte kunstmatige intelligentie heeft ingezet bij het opstellen van het rapport. Het resultaat: een document vol fouten, waaronder drie niet-bestaande academische referenties én een verzonnen citaat uit een vonnis van het Federal Court.

Oeps!

AI “hallucineert” fouten

Voor wie het AI-landschap kent, is dit tegelijk herkenbaar én pijnlijk. AI-tools als ChatGPT zijn krachtig, maar kunnen soms “hallucineren”: ze verzinnen bronnen, combineren feit en fictie, en presenteren dat als waarheid. Dat is bij Deloitte nu op pijnlijke schaal gebeurd, met miljoenencontracten op het spel.

Wat gebeurde er daarna?

Na de ontdekking werd er stilletjes een nieuwe, opgeschoonde versie van het rapport op de website van het Department of Workplace Relations gezet – precies voor een lang weekend. Niet alleen werd de referentielijst herschreven, maar er werden ook meer dan een dozijn verzonnen bronnen en voetnoten geschrapt.

Wat kunnen we hiervan leren?

1. Dubbelcheck alles AI is handig voor inspiratie en eerste versies, maar menselijke controle is cruciaal. Gebruik AI als slimme assistent, niet als eindverantwoordelijke.
2. Transparantie is key Als je AI gebruikt, wees daar open over. Want als het misgaat, ligt je reputatie zó in de kreukels.
3. Factchecking is essentieel Bronnen moeten verifieerbaar zijn. “AI zegt het” is nooit genoeg.

Humor of waarschuwing?

Het verhaal is ergens grappig – maar vooral een wake-up call. AI is een geweldig hulpmiddel, maar vertrouw niet blind op de output. Zelfs niet als je Deloitte heet.

Maak van je website een AI website Dagelijks vertrouwen reeds honderden klanten op onze UP-TO-DATE AI App om snel en efficiënt te communiceren via verschillende kanalen, en om binnen enkele minuten resultaten te volgen.