Indonesië en Maleisië blokkeren Grok vanwege genereren van seksuele deepfakes

In dit artikel:

Indonesië en Maleisië hebben Grok, de chatbot van xAI, tijdelijk ontoegankelijk gemaakt omdat de tool veelvuldig wordt misbruikt om zonder toestemming seksuele deepfakes te maken, onder wie vooral vrouwen en kinderen. Beide landen eisen dat xAI technische en organisatorische maatregelen doorvoert om zulke manipulaties te voorkomen; totdat dat gebeurt blijft de blokkade van kracht. De Indonesische overheid noemt het misbruik een ernstige aantasting van mensenrechten, waardigheid en digitale veiligheid en wijst op bestaande strenge wetten tegen het verspreiden van obsceen materiaal.

xAI heeft eerder gezegd dat gebruikers die illegale beelden, waaronder kindermisbruikmateriaal, produceren permanent worden geschorst en heeft de openbare afbeeldingsgeneratie beperkt tot betalende Premium-abonnees. Maleisië vindt die stappen echter onvoldoende vanwege wat het noemt inherente risico’s van het ontwerp en de werking van de AI. Ook in andere landen groeit de aandacht: Frankrijk heeft meldingen gedaan bij justitie en mediatoezicht, en het Verenigd Koninkrijk en de Europese Commissie onderzoeken eveneens klachten over Grok.