EU onderzoekt X om seksuele AI-beelden Grok

In dit artikel:

De Europese Commissie is een formeel onderzoek gestart naar socialemediaplatform X en ontwikkelaar xAI omdat de xAI-chatbot Grok mogelijk Europese regels rond illegale en schadelijke content heeft overtreden. Aanleiding waren meldingen dat via Grok gemanipuleerde, seksueel getinte afbeeldingen werden verspreid — onder meer beelden van ontklede volwassenen en vermoedelijk minderjarigen — en onzekerheid over of er vooraf een gerichte risicoanalyse voor de Europese uitrol is uitgevoerd.

Het onderzoek wordt gevoerd binnen het kader van de Digital Services Act (DSA), die grote platforms verplicht systemische risico’s te identificeren en te verminderen; bij overtredingen kunnen boetes oplopen tot zes procent van de wereldwijde jaaromzet. Brussel erkent dat xAI inmiddels beperkingen invoerde op het bewerken en genereren van expliciete beelden in sommige landen, maar zegt dat die maatregelen niet alle fundamentele risico’s wegnemen.

De stap van de Europese Commissie volgt op soortgelijke acties elders: de Britse toezichthouder Ofcom onderzoekt ook Grok, en Indonesië, de Filipijnen en Maleisië blokkeerden tijdelijk de chatbot voordat toegang soms weer werd hersteld na aanvullende veiligheidsmaatregelen van xAI. X kreeg in december al een aanzienlijke sanctie onder de DSA wegens gebrekkige transparantie.

Politiek leeft de zaak internationaal: sommige Amerikaanse stemmen vinden Europese regulering te streng, terwijl EU-beleidsmakers benadrukken dat het onderzoek draait om de bescherming van burgers — vooral vrouwen en kinderen. In het Europees Parlement groeit de roep om flexibele, doortastende handhaving van AI-regels, zodat toezichthouders snel kunnen optreden tegen nieuwe risico’s van snel ontwikkelende technologieën.