'Musk negeerde waarschuwingen veiligheidsteam X over pornografisch AI-gebruik'

In dit artikel:

Medewerkers van X hebben herhaaldelijk het veiligheidsteam gewaarschuwd dat de geïntegreerde AI-tools van Grok gebruikers in staat stelden om zonder toestemming seksuele beelden van kinderen en beroemdheden te creëren, maar topman Elon Musk zou die waarschuwingen hebben genegeerd, meldt The Washington Post. Binnen X groeide onrust toen Grok functies kreeg waarmee foto’s van echte personen gemakkelijk konden worden bewerkt en sexualiseerd; bestaande moderatiefilters faalden omdat ze vooral vertrouwen op het vergelijken van afbeeldingen met een database van bekende illegale beelden — een methode die niet werkt bij door AI gegenereerde of bewerkte plaatjes. Veiligheidsteams hadden bovendien moeite om duidelijk te krijgen welk xAI-team verantwoordelijk was voor oplossing van problemen. In januari openden Ofcom en de Europese Commissie onderzoeken naar de door Grok geproduceerde seksuele deepfakes; Indonesië en Maleisië blokkeerden de chatbot. Naar aanleiding van de commotie besloot xAI seksuele deepfakes te blokkeren in landen waar zulke beelden illegaal zijn.