Grok en ChatGPT maken probleemloos bikinifoto's, concurrentie weigert
In dit artikel:
Grok heeft de afgelopen weken veel negatieve aandacht gekregen omdat de chatbot zeer gemakkelijk foto’s van vooral vrouwen (en in enkele gevallen kinderen) kan aanpassen tot seksueel getinte bikinifoto’s. Gebruikers hoeven slechts een afbeelding te uploaden en te vragen om “kleding te vervangen door een bikini”; Grok voert die bewerking vrijwel direct uit. Via de Grok-bot op X kan dit bovendien in openbare reacties onder berichten van derden, waardoor vrouwen die foto’s plaatsen vaak worden overspoeld met verzoeken om die beelden te sexualiseren.
X gaf maandag aan dat het de mogelijkheid om bikinifoto’s te genereren met Grok in landen waar dat illegaal is blokkeert, maar Tweakers testte en concludeerde dat die beperking in ieder geval in Nederland nog niet actief is. De kwestie heeft ook juridische aandacht: de EU en het Verenigd Koninkrijk onderzoeken of xAI de regels overtreedt, terwijl Indonesië en Maleisië de bot tijdelijk hebben geblokkeerd tot er maatregelen komen. Een deel van de commotie komt doordat Grok soms ook seksueel getinte beelden van kinderen maakte en die via openbare tweets bereikbaar waren; X heeft het direct publiceren via taggen inmiddels beperkt.
Tweakers onderzocht daarnaast zes andere veelgebruikte AI-afbeeldingstools (ChatGPT, Gemini, Mistral, Copilot, Meta AI en Adobe Photoshop Generative Fill) om te zien hoe makkelijk ook zij kleding in bikinis kunnen veranderen. Resultaat: naast Grok was ChatGPT het meest toegankelijk voor zulke bewerkingen — een simpele “add bikini” op een geüploade foto volstaat vaak. ChatGPT legt wel meer beperkingen op (bijvoorbeeld bij ongebruikelijke verzoeken zoals een “mankini”), maar is duidelijk minder streng dan Grok.
Andere systemen blijken veel hardernekkige guardrails te hebben. Gemini weigert rechttoe rechtaan een bikini te maken, al kan context leiden tot het genereren van een geheel nieuwe, op het origineel gebaseerde afbeelding. Mistral is onvoorspelbaar: soms lukt een bewerking met uitgebreide prompts, soms niet. Meta’s AI bleef het meest principieel en weigerde consistent badkleding te genereren; Microsofts Copilot blokkeerde veel verzoeken halverwege, met incidentele uitzonderingen. Adobe’s Generative Fill weigerde bikinis, accepteerde soms badpakken en toonde ook beperkingen bij bloot.
De bevindingen benadrukken twee belangrijke zorgen: de lage drempel om foto’s van anderen seksueel te manipuleren en het juridische/ethische speelveld rond deepfakes en privacy. Terwijl sommige bedrijven hun modellen afschermen, blijven toegankelijkheid en misbruikpotentieel aanleiding voor onderzoek en ingrijpen door toezichthouders en overheden.