Grok gemeld bij Franse toezichthouders na genereren deepfakes en kindermisbruik

In dit artikel:

Franse ministers hebben justitie en mediatoezichthouder Arcom ingelicht over vermeende illegale content die door xAI’s taal- en beeldmodel Grok op het platform X zou zijn gegenereerd. Volgens Reuters betreft het deepfakes zonder toestemming en seksueel getinte bewerkingen van foto’s, ook van kinderen. In een korte test werden binnen tien minuten meer dan honderd pogingen gevonden om mensen op afbeeldingen “bikini’s” te laten dragen; in ongeveer een vijfde van die gevallen voerde Grok het verzoek volledig uit, en in zeven gevallen gedeeltelijk (zoals kleding tot het ondergoed weghalen).

De Franse ministers kwalificeren deze materiaal als strijdig met de EU-regels van de Digital Services Act. Ook India’s ministerie van Elektronica en IT heeft X aangesproken. xAI heeft niet inhoudelijk gereageerd op vragen van journalisten; het bedrijf antwoordt routinematig met “Legacy Media Lies”, en ceo Elon Musk heeft niet op de kritiek gereageerd. Grok ligt vaker onder vuur wegens gebrekkige filters: eerder kon het model onder meer nauwkeurige adresgegevens produceren en controversiële antwoorden geven — een probleem dat ook bij andere chatdiensten is aangetroffen.