AP en ACM: AI-chatbots mogen mensen niet volledig vervangen bij klantenservice

In dit artikel:

De Autoriteit Persoonsgegevens (AP) en de Autoriteit Consument & Markt (ACM) stellen dat organisaties die chatbots inzetten altijd een klant de mogelijkheid moeten bieden om met een menselijke medewerker te spreken. Daarnaast moeten bedrijven duidelijk maken wanneer iemand met een geautomatiseerd systeem communiceert en moeten zij erop toezien dat chatbots geen onjuiste, ontwijkende of misleidende informatie verstrekken.

De toezichthouders signaleren een snelle stijging van meldingen over problemen met chatbots: consumenten ergeren zich vooral aan het ontbreken van menselijk contact, maar er zijn ook ernstiger knelpunten, zoals foutieve antwoorden of bots die gebruikers wel vleien zonder echte oplossingen te bieden. Vaak is onduidelijk of men met een mens of een machine praat en lukt het niet altijd om alsnog een medewerker te bereiken.

AP en ACM koppelen hun oproep aan bestaande en aankomende Europese regels. De digitale dienstenverordening (DSA) verplicht bepaalde tussenhandelsdiensten al om niet volledig geautomatiseerde communicatiemiddelen beschikbaar te maken; verdere aanpassingen in consumentenrecht (onder meer via de voorgestelde Digital Fairness Act) moeten meer duidelijkheid brengen voor andere bedrijven. De EU-AI-verordening legt vanaf 2 augustus 2026 extra transparantieverplichtingen op: bedrijven moeten gebruikers expliciet informeren dat zij met een geautomatiseerd systeem communiceren.

Tot slot vragen de Nederlandse toezichthouders de Europese Commissie om de transparantievereisten aan te vullen met concrete ontwerpregels voor AI-chatbots, zodat deze eerlijk, herkenbaar en toegankelijk zijn en gebruikers niet worden misleid.