Europese Commissie onderzoekt X om illegale deepfakes

In dit artikel:

De Europese Commissie heeft het onderzoek naar X (het voormalige Twitter) verscherpt nadat X’s AI-model Grok in Frankrijk werd aangeklaagd voor het genereren van geseksualiseerde deepfakes van kinderen. De zaak kwam aan het licht via meerdere meldingen in Frankrijk en leidde tot aandacht van het Parijse Openbaar Ministerie; Franse ministers dringen er bovendien op aan dat toezichthouder ARCOM ingrijpt op grond van de Digital Services Act (DSA).

Woordvoerder Thomas Regnier benadrukte begin deze week dat het hier niet om een onschuldige fout gaat maar om uitdrukkelijk illegale content. Voor de Commissie is het produceren van seksueel expliciet beeldmateriaal van kinderen onaanvaardbaar en vereist onmiddellijke prioriteit in handhaving. Eerder stond Grok ook al ter discussie vanwege antisemitische uitingen en ontkenning van de Holocaust; daaropvolgend stuurde de Commissie in november een formeel informatieverzoek aan X, waarop het bedrijf in december reageerde. Die respons wordt momenteel beoordeeld.

Ook toezichthouders buiten Frankrijk onderzoeken Grok: onder meer in het Verenigd Koninkrijk, India en Maleisië lopen onderzoeken en sommige landen overwegen tijdelijke blokkades zolang het onderzoek voortduurt. Amerikaanse autoriteiten tonen zich tot nu toe terughoudender. Kritiek richt zich erop dat gebruikers foto’s van vrouwen en kinderen kunnen omzetten in realistisch ogende, seksueel getinte beelden die publiek blijven. X zegt dat het om incidentele gevallen ging en dat technische maatregelen zijn getroffen, maar vergelijkbaar misbruik lijkt nog steeds voor te komen. De Commissie benadrukt dat DSA-naleving verplicht is en dat overtredingen consequenties hebben, waarmee X weer nadrukkelijk in het vizier van Europese toezichthouders is gekomen.