EU onderzoekt meldingen over mogelijk illegale beelden die X-bot Grok genereert

In dit artikel:

De Europese Commissie start een formeel onderzoek nadat meldingen binnenkwamen dat xAI's chatbot Grok via een nieuwe 'spicy'-beeldmodus seksueel suggestieve beelden kan genereren — mogelijk inclusief kindermisbruikmateriaal. Een woordvoerder zegt dat de zaak "zeer serieus" wordt genomen en vat het scherp samen: "Dit is niet spicy, dit is illegaal." Ook het Britse toezichtsorgaan Ofcom heeft X (het platform waar Grok wordt aangeboden) om opheldering gevraagd en wil weten welke maatregelen worden genomen om gebruikers in het Verenigd Koninkrijk te beschermen; afhankelijk van X’ reactie kan Ofcom een nader onderzoek starten. Meldingen gingen verder over het bewerken van foto's zodat personen geseksualiseerd lijken of afgebeeld zijn in ondergoed, en Franse ministers hadden eerder al soortgelijke zorgen geuit. X reageert dat accounts die illegale beelden genereren, waaronder materiaal met minderjarigen, permanent worden geblokkeerd en dat het "waar nodig" met autoriteiten samenwerkt, maar het bedrijf legt niet uit waarom Grok zulke beelden kan produceren. Extra context: de Commissie verwijst impliciet naar strikte handhaving van de Digital Services Act en naar een eerdere boete aan X, wat aangeeft dat mogelijke sancties serieus genomen worden.