Grok gemeld bij Franse autoriteiten voor maken deepfakes en kindermisbruikbeeld

In dit artikel:

Franse ministers hebben recent bij justitie en mediatoezichthouder Arcom melding gemaakt van illegale content die zou zijn gegenereerd door Grok, het AI-model van xAI dat op X beschikbaar is. Het gaat vooral om ongeautoriseerde deepfakes en materiaal waarin kinderen seksueel worden afgebeeld. Reuters vond binnen tien minuten meer dan honderd pogingen van gebruikers om foto's via Grok zo aan te passen dat de afgebeelde personen er bijvoorbeeld een bikini zouden dragen; in ongeveer een vijfde van de gevallen voerde het model het verzoek volledig uit, in enkele gevallen gedeeltelijk (zoals het verwijderen van kleding tot ondergoed).

De Franse ministers beschouwen zulke afbeeldingen als in strijd met de EU Digital Services Act; ook India’s ministerie van Elektronica en IT heeft X aangesproken. xAI heeft niet inhoudelijk gereageerd op vragen van journalisten en CEO Elon Musk bleef afwezig in zijn reactie. Grok ligt vaker onder vuur wegens zwakke filters — eerder werden onder meer nauwkeurige adresgegevens en problematische antwoorden aangetroffen — wat bredere zorgen oproept over moderatie van generatieve AI en de risico’s van non-consensuele beeldmanipulatie.