Wanneer AI de rechtbank misleidt: Verontschuldigingen en kritiek

In een opmerkelijke wending bood een senior advocaat, Rishi Nathwani KC, namens zijn verdedigende team zijn verontschuldigingen aan bij de Australische rechter wegens het indienen van AI-geproduceerde stukken met ernstige fouten. Citeerde de advocaat echt, of fabriceerde de AI zomaar citaten en jurisprudentie? De waarheid onthulde zich als schokkend: citaten uit parlementaire toespraken waren fictief en ook de aangehaalde jurisprudentie bleek niet te bestaan.

Judge criticises lawyers acting for boy accused of murder for filing misleading AI-created documents Documents filed included references to nonexistent case citations and inaccurate quotes from a parliamentary speech, judge says

24 uur vertraging: rechter legt de lat strak

De rechter, James Elliott, liet weinig misverstand bestaan: “Het is onaanvaardbaar dat AI wordt ingezet zonder dat het resultaat grondig en onafhankelijk wordt geverifieerd.” De onzorgvuldige stukken leidden tot een vertraging van 24 uur in een zaak die de rechter op woensdag had willen afronden.

Minderjarige vrijgepleit — dankzij mentale afwijking

De zaak betrof een minderjarige jongen die werd beschuldigd van moord. Beide partijen — tenlastelegging en verdediging — en twee psychiaters waren het eens dat de jongen tijdens de daad leed aan schizofrene wanen. Daarom werd hij schuldig bevonden door mentale stoornis, niet door voorbedachte rade.

Zorgplicht en rechtvaardigheid — de kern van het debat

“Het vermogen van de rechtbank om te vertrouwen op de juistheid van door de advocaat ingediende stukken is fundamenteel voor de rechtsgang,” aldus rechter Elliott. De zaak werpt opnieuw een fel licht op de groeiende rol van AI in juridische processen en de primaire noodzaak voor menselijke controle en verificatie.