XAI blokkeert maken van seksuele deepfakes met Grok na ophef - update

In dit artikel:

Elon Musks AI-bedrijf xAI heeft de beeldgenererende mogelijkheden van zijn chatbot Grok in sommige landen geblokkeerd om te voorkomen dat seksuele deepfakes van bestaande mensen worden gemaakt. Volgens het veiligheidsteam van Musks sociale netwerk X geldt de blokkade in jurisdicties waar dergelijk beeldmateriaal verboden is; het gaat om een geoblokkade.

De maatregel volgt op ophef en onderzoek door autoriteiten nadat duizenden synthetische afbeeldingen — waaronder geseksualiseerde bewerkingen van bestaande personen en zorgen over mogelijk kinderporno — via X waren gedeeld. Musk reageerde kort daarvoor op X en zei geen voorbeelden van ongepast door Grok gegenereerd beeld te hebben gezien, en benadrukte dat Grok alleen op verzoek van gebruikers beeld maakt en weigert illegaal materiaal. Hij waarschuwde tevens dat hacken van Grok tot onvoorziene uitkomsten kan leiden, die dan snel worden opgelost.

De stap onderstreept de groeiende bezorgdheid over AI-deepfakes en de druk op platformen om misbruik technisch en juridisch te beperken.