Nederlandse rechtbank verbiedt uitkleedfuncties van X-tool Grok

In dit artikel:

Een Nederlandse rechter heeft X.AI (X) verboden om met zijn AI-tool Grok in Nederland uitkleedbeelden en materiaal van kindermisbruik te genereren of te verspreiden. De maatregel geldt ook voor beelden van mensen die in Nederland wonen zonder hun toestemming; zolang X niet kan aantonen dat die verboden output wordt voorkomen, mag Grok niet meer worden aangeboden in Nederland. De uitspraak volgt op een kort geding dat de stichtingen Offlimits en Fonds Slachtofferhulp eind februari aanspanden en dat op 12 maart diende.

De rechter oordeelde dat X onvoldoende heeft bewezen dat de sinds begin dit jaar ingevoerde technische beperkingen effectief zijn. Offlimits toonde tijdens de procedure nog aan dat met Grok uitkleedbeelden en kindermisbruikbeelden konden worden gegenereerd. X stelde enerzijds dat zulke creaties door de gebruiksvoorwaarden verboden zijn en dat het technisch onmogelijk zou zijn om kindermisbruikmateriaal te maken, maar gaf toe dat honderd procent garantie niet haalbaar is en testte de bewering niet uit omdat dat wettelijk verboden zou zijn. Die tegenstrijdigheid en het ontbreken van concrete effectiviteitsbewijzen gaven de rechter aanleiding tot het verbod.

X moet aan Offlimits aantonen dat Grok voldoet; levert het niet, dan is er een dwangsom van 100.000 euro per dag, tot maximaal 10 miljoen euro. De rechter wees erop dat X als beheerder van de functionaliteiten van Grok verantwoordelijk is voor het voorkomen van onrechtmatige beelden. De zaak loopt ook op Europees niveau: de Europese Commissie onderzoekt of X regels heeft overtreden. Volgens de stichtingen is het sinds begin dit jaar weliswaar lastiger geworden maar nog steeds niet onmogelijk om zulke beelden met Grok te maken.