Een Canadese advocaat is voor zes maanden geschorst nadat zij tijdens een rechtszaak gebruik maakte van door kunstmatige intelligentie verzonnen rechtbankuitspraken. Daarnaast kreeg zij een boete van 10.000 Canadese dollar.
Het gaat om advocate Mary Hyun-Sook Lee, die zich tijdens een erfrechtszaak in 2025 baseerde op jurisprudentie die volgens een tuchtonderzoek deels helemaal niet bestond.
De zaak geldt volgens de Canadese krant The Toronto Star als waarschijnlijk de eerste openbaar gemaakte tuchtuitspraak in Canada over onjuist gebruik van AI door een advocaat.
Volgens het onderzoek haalde Lee zowel in haar processtukken als tijdens de rechtszitting meerdere niet-bestaande rechtbankuitspraken aan die waren gegenereerd door kunstmatige intelligentie. Daarnaast verwees zij naar een zaak die inhoudelijk niet relevant bleek en gaf zij de uitkomst van een bestaande uitspraak onjuist weer. Toen de rechter vroeg om de originele bronstukken, kon zij die niet overleggen.
De advocate erkende uiteindelijk dat de aangehaalde documenten met behulp van AI waren gemaakt. Aanvankelijk probeerde zij de verantwoordelijkheid nog neer te leggen bij een rechtenstudent die volgens haar als assistent had gewerkt.
Tijdens het tuchtonderzoek weigerde zij eerst de naam van deze vermeende medewerker te noemen, waarna later bleek dat zij tijdens de rechtszaak helemaal geen assistenten of stagiairs in dienst had.
Lee verklaarde bovendien dat zij “van de oude stempel” is en geen ervaring had met ChatGPT. Uit onderzoek van haar computergegevens bleek echter dat zij na de eerste ontdekking opnieuw gebruikmaakte van ChatGPT. Dit keer gebruikte zij de chatbot om zich voor te bereiden op een vervolggesprek met de rechter.
In een van haar vragen aan ChatGPT schreef zij dat zij “zo stom was geweest” om zich op niet-bestaande bronnen te baseren. Ook vroeg zij de chatbot hoe zij zich kon voorbereiden om een tuchtprocedure te voorkomen.
Het toezichthoudende orgaan voor advocaten oordeelde dat Lee ernstig tekort was geschoten in haar professionele verantwoordelijkheid. Naast een schorsing van zes maanden kreeg zij daarom een boete van 10.000 Canadese dollar.
De zaak onderstreept volgens juridische experts de risico’s van het ongecontroleerd gebruiken van AI bij juridische werkzaamheden. Ook in andere landen zijn advocaten al in de problemen gekomen nadat zij zich baseerden op door AI verzonnen of onjuist weergegeven rechtspraak.
In Nederland zijn eveneens meerdere advocaten gewaarschuwd wegens onzorgvuldig gebruik van kunstmatige intelligentie.
Volg CrimeNieuws op:
