Advocaten hebben extra werk aan foute info die klanten uit AI-chatbots halen

In dit artikel:

Nederlandse advocaten besteden extra tijd aan het herstellen van onjuiste informatie die cliënten uit AI-chatbots hebben gehaald. Klanten komen met plausibel klinkende, maar foutieve of volledig verzonnen “feiten”, jurisprudentie en verwijzingen, waardoor advocaten eerst die foutieve AI-claims moeten ontkrachten voordat ze over de eigen zaak kunnen adviseren. De Nederlandse Orde van Advocaten benadrukt dat juristen altijd zelf verantwoordelijk blijven voor hun adviezen en de belangen van cliënten.

Het probleem doet zich al enkele jaren voor; ook advocaten en rechters zijn soms zelf door AI-misleidingen de fout ingegaan, wat in enkele gevallen tot sancties leidde. Onderzoekers van OpenAI concludeerden vorig jaar dat zulke “hallucinaties” voortkomen uit de huidige opzet van generatieve modellen: training en evaluatie belonen het geven van een antwoord, waardoor gokken wordt aangemoedigd in plaats van het erkennen van onzekerheid. Gevolg: extra werk en risico’s voor de juridische praktijk, en een dringende oproep tot herontwerp van AI-systemen en zorgvuldige verificatie door gebruikers.