XAI blokkeert maken van seksuele deepfakes met Grok na internationale ophef

In dit artikel:

xAI, het AI‑bedrijf van Elon Musk, heeft de mogelijkheid van zijn chatbot Grok uitgeschakeld om seksuele deepfakes van bestaande personen te maken — met name beelden waarin mensen digitaal "uitgekleed" worden. De maatregel werd aangekondigd enkele uren na een bericht van Musk op X waarin hij zei zelf geen beeld van naakte minderjarigen door Grok te hebben gezien en de verantwoordelijkheid deels bij gebruikers legde.

De controverse draait niet alleen om mogelijk kindermisbruikmateriaal, maar ook om het produceren van seksueel getinte bewerkingen van volwassenen (bijvoorbeeld in onthullende kleding). Volgens The Guardian zijn de afgelopen weken duizenden van zulke afbeeldingen gemaakt en openbaar gedeeld op X, wat internationale verontwaardiging en onderzoek door toezichthouders heeft uitgelokt. Musk benadrukte dat Grok niet autonoom beelden genereert en dat het systeem zou weigeren wanneer het om illegale inhoud gaat; hij waarschuwde ook voor problemen bij kwaadwillige hacking.

De stap van xAI is een technische reactie op publieke en juridische druk, maar experts wijzen erop dat zowel platformbeleid als naleving en toezicht cruciaal blijven om misbruik van AI‑gegenereerde deepfakes te voorkomen.