Nederlandse toezichthouder: advocaten gebruiken AI soms op verkeerde manier

In dit artikel:

Nederlandse advocaten hebben de laatste tijd soms onzorgvuldig met generatieve AI gewerkt, met als gevolg dat in rechtszaken door AI aangedragen jurisprudentie werd gebruikt die niet relevant was of zelfs niet bestond. De Nederlandse Orde van Advocaten meldde aan NOS dat in twee dossiers advocaten verplicht zijn door een cursus te leren omgaan met AI; in andere zaken lopen nog onderzoeken, vaak nadat rechters opmerkten dat aangehaalde uitspraken niet klopten. Volgens de berichtgeving namen advocaten soms zonder controle tekst van chatbots over en dienden die stukken in, waardoor rechters extra werk kregen om beweringen te verifiëren. Ook gebeurde het dat eisers zonder advocaat zich lieten bijstaan door AI‑gegenereerde processtukken; een kantonrechter oordeelde dat het zonder nalezen en juridische toetsing van die stukken onacceptabel was en dat het tegenpartijen onnodig belastte. De gevallen illustreren de risico’s van AI‑hallucinaties en benadrukken dat juridische professionals hun zorgplicht moeten nakomen: verificatie van bronnen en passende waarborgen horen bij het gebruik van AI in de rechtspraktijk.