Nederlandse toezichthouders willen dat EU-verbod op uitkleedapps nog verder gaat

In dit artikel:

De Nederlandse politie, het Openbaar Ministerie en meerdere toezichthouders steunen het door het Europees Parlement aangenomen verbod op AI‑"nudify"-apps, maar vinden het voorstel te slap en pleiten voor een compleet verbod — ook wanneer de geportretteerde zogenaamd toestemming heeft gegeven. In het huidige EU‑voorstel, dat vorige week door het Europees Parlement is goedgekeurd en waarover lidstaten nog moeten onderhandelen, blijft een uitzondering bestaan voor het uitkleden van echte personen met hun toestemming en voor het uitkleden van volledig AI‑gegenereerde figuren. De Nederlandse instanties vrezen dat ontwikkelaars die uitzondering inzetten om hun tools in de praktijk te behouden.

Met een gezamenlijk persbericht roepen politie, Openbaar Ministerie, Autoriteit Consument & Markt, de Autoriteit online Terroristisch en Kinderpornografisch Materiaal, de Autoriteit Persoonsgegevens en het Commissariaat voor de Media de Nederlandse regering op om in de EU‑besprekingen te pleiten voor strengere regels. Zij wijzen erop dat de snelle opkomst van dergelijke nudify‑tools ernstige gevolgen heeft voor slachtoffers en dat huidige nationale wetgeving vooral individuele makers of gebruikers kan vervolgen, maar te weinig instrumenten biedt om de tools zelf uit te schakelen.

Als voorbeeld noemen de instanties een recente Nederlandse rechterlijke uitspraak tegen de AI‑dienst Grok, waarbij het uitkleden moest stoppen omdat die functie ook kinderen betrof en zo mogelijk kindermisbruikmateriaal genereerde; in zulke gevallen lijken er volgens hen wél mogelijkheden om tegen ontwikkelaars op te treden. De oproep is bedoeld om te voorkomen dat een consent‑uitzondering de handhaving ondermijnt en om de EU‑AI‑verordening effectief te laten zijn tegen misbruik.