Nederlandse rechter gebruikt ChatGpt in vonnis: 'Dit kan echt niet'

Voor het eerst in de Nederlandse rechtspraak heeft een rechter openlijk toegegeven ChatGPT te hebben gebruikt als informatiebron voor een uitspraak.

Deze onthulling heeft geleid tot grote bezorgdheid onder juridische en tech-experts, die betwijfelen of het verantwoord is om een AI-chatbot op deze manier in te zetten.

De zaak betrof twee huiseigenaren die in conflict waren over zonnepanelen. Eén van hen had een extra verdieping aan zijn woning toegevoegd, wat de ander deed vrezen voor een verminderde efficiëntie van zijn zonnepanelen.

In juni deed de kantonrechter in Gelderland uitspraak en gebruikte hierbij ChatGPT om de gemiddelde levensduur van zonnepanelen vast te stellen.

Volgens het vonnis schatte de rechter, mede op basis van ChatGPT, de levensduur van zonnepanelen uit 2009 op 25 tot 30 jaar, en stelde deze op 27,5 jaar voor de zaak. De rechter vroeg de chatbot ook naar de gemiddelde prijs per kilowattuur elektriciteit.

De inzet van ChatGPT in de rechtspraak heeft geleid tot scherpe kritiek. AI-specialist Henk van Ess noemt het gebruik van de chatbot in een juridische uitspraak “onverdedigbaar” en “belachelijk”.

Volgens Van Ess moet elk antwoord van ChatGPT met een korrel zout worden genomen, vooral omdat er geen consensus is over de levensduur van zonnepanelen, die varieert van 25 tot 40 jaar.

“Het is schokkend om te zien dat een rechter zulke onbetrouwbare informatie gebruikt,” aldus Van Ess, die pleit voor strengere richtlijnen voor het gebruik van AI door rechters.

Een woordvoerder van de rechtbank benadrukte echter dat ChatGPT slechts een van de vele bronnen was die de rechter raadpleegde en niet doorslaggevend was voor de beslissing.

“De gegevens van ChatGPT hebben geen invloed gehad op de uiteindelijke uitspraak,” aldus de woordvoerder.

Desondanks blijft er twijfel over de toepasbaarheid van ChatGPT in de rechtspraak. AI-deskundige Remy Gieling wijst erop dat taalmodellen zoals ChatGPT primair zijn ontworpen om woorden te voorspellen en geen betrouwbare zoekmachines zijn. “Het lijkt wel alsof je Wikipedia gebruikt voor je werkstuk,” zegt Gieling.

Ironisch genoeg heeft AI-autoriteit Jarno Duursma eerder dit jaar nog een presentatie over AI-modellen voor de rechtbank gegeven. “Je zou verwachten dat een rechter zelf onderzoek doet of dat laat doen, en daarbij de bronnen wil weten,” zegt Duursma.

Het gebruik van AI in de juridische wereld is niet geheel nieuw. In Amsterdam maken advocatenkantoren gebruik van Harvey, een juridische variant van ChatGPT, voor intern gebruik.

Cees van Ginneken van A&O Shearman benadrukt dat deze tools zorgvuldig getest zijn en alleen voor intern gebruik dienen.

Toch zijn niet alle reacties negatief. Dave Maasland van cyberbeveiligingsbedrijf Eset ziet het gebruik van AI als een kans om de discussie over generatieve AI in de rechtspraak te stimuleren.

“Er is veel potentieel om de rechtspraak te verbeteren, maar het is cruciaal dat de uiteindelijke antwoorden grondig worden gecontroleerd,” zegt Maasland. “Generatieve AI is nog in de beginfase en kan hallucinaties vertonen.”