Het begon met een goedbedoelde poging. Een advocaat uit Californië, Amir Mostafavi, besloot zijn beroepsschrift een extra glans te geven door ChatGPT te gebruiken. Het idee was eenvoudig: de tekst scherper maken, netter formuleren, misschien wat overtuigender laten klinken.
Wat hij niet doorhad: de AI had een verrassing in petto. Een verrassing die hem later $10.000 zou kosten.
California issues historic fine over lawyer’s ChatGPT fabricationsThe court of appeals issued an historic fine after 21 of 23 quotes in the lawyer's opening brief were fake. Courts want more AI regulations. |
Citaten die nooit bestonden
Mostafavi schreef het stuk grotendeels zelf, maar liet ChatGPT suggesties doen voor de juridische onderbouwing. Toen hij het resultaat indiende, leek alles solide. Tot de rechtbank de bronnen nakeek.
Van de 23 aangehaalde rechterlijke uitspraken bleken er 21 simpelweg niet te bestaan. Ze waren geloofwaardig opgeschreven, compleet met jaartallen en rechtbanknamen – maar volledig verzonnen.
Michigan judge sanctions lawyers for AI fake citationsA Michigan federal judge sanctioned attorneys for filing briefs with AI-generated false citations, warning lawyers to verify case law before submission. |
Een harde tik van de rechtbank
De reactie van de rechters was onverbiddelijk. Het beroep werd bestempeld als “frivolous”, oftewel zinloos en misleidend. De tijd van de rechtbank en het geld van de belastingbetaler waren verspild.
De straf: een boete van $10.000, de hoogste tot nu toe in Californië voor misbruik van AI in juridische documenten.
$3,000 Mistake: Pressed for Time, Lawyer Misuses AI | Law.comThe judge said he would impose a penalty on the low end of the scale, based on the attorney's prompt admission, honest disclosure, apologies and commitment to impose safeguards against future misuse of artificial intelligence. |
AI in de rechtszaal: groeiend probleem
Dit is geen geïsoleerd incident. In de afgelopen jaren zijn er in Californië tientallen soortgelijke gevallen opgedoken, en in heel de VS al honderden.
Uit onderzoek van Stanford blijkt dat generatieve AI bij bijna één op de drie verzoeken hallucinaties kan produceren: nepfeiten die er echt uitzien. Precies datgene waar Mostafavi in de val trapte.
|
A New Wrinkle in AI Hallucination Cases: Lawyers Dinged for Failing to Detect Opponent’s Fake CitationsA new decision from the California Court of Appeals adds an intriguing dimension to the growing body of AI hallucination sanctions cases, raising the question of a lawyer's duty to detect fabricated,... |
Nieuwe regels in aantocht
Om herhaling te voorkomen, grijpt de Californische Judicial Council in. Alle rechtbanken moeten voor 15 decemberbeleid hebben opgesteld over het gebruik van AI. Sommige zullen AI waarschijnlijk helemaal verbieden, anderen leggen richtlijnen vast voor verantwoord gebruik.
Het doel is helder: voorkomen dat AI de geloofwaardigheid van de rechtszaal ondermijnt.
California Court Fines Lawyer $10K for Fake ChatGPT Quotes in BriefA California appeals court fined attorney Peter G. Smith $10,000 for submitting a brief with 21 fabricated ChatGPT-generated quotes, deeming it frivolous and wasteful. This landmark ruling highlights AI's risks in legal practice, urging scrutiny and regulation to preserve judicial integrity. |
Lessen voor de advocatuur
Deze zaak laat zien dat advocaten altijd verantwoordelijk blijven voor wat zij indienen, ook als AI heeft meegewerkt. AI kan ondersteunen, maar nooit de plicht tot zorgvuldigheid vervangen.
De boodschap is simpel: wie ChatGPT gebruikt zonder te controleren, speelt met vuur – en met zijn carrière.
Een waarschuwing voor iedereen
De boete tegen Mostafavi is meer dan een persoonlijke tik op de vingers. Het is een waarschuwing voor de hele beroepsgroep én daarbuiten.
AI is krachtig, maar niet feilloos. Wie het blind vertrouwt, riskeert niet alleen geld en reputatie, maar ook het vertrouwen van de samenleving in de rechtspraak zelf.
|
ChatGPT-related fineA Los Angeles-area attorney must pay a $10,000 fine for filing a state court appeal full of fake quotations generated by the artificial intelligence tool ChatGPT. |
