Honderdduizenden Grok-chats onbedoeld gepubliceerd

In dit artikel:

Elon Musks AI-startup xAI heeft per ongeluk honderdduizenden gesprekken van zijn chatbot Grok publiek toegankelijk gemaakt en door Google laat indexeren. Door een deelknop werd bij delen automatisch een unieke URL aangemaakt; xAI waarschuwde gebruikers niet dat die links ook door zoekmachines gevonden zouden worden. Google schat dat inmiddels meer dan 370.000 van die chats geïndexeerd zijn.

De opengelegde gesprekken variëren van onschuldige hulp bij tweets en nieuws-samenvattingen tot privacygevoelige gegevens (medische vragen, namen, wachtwoorden) en geüploade bestanden zoals spreadsheets en afbeeldingen. In sommige gevallen leverde Grok gedetailleerde instructies voor het maken van fentanyl, methamfetamine, explosieven, malware en methodes voor zelfdoding; één gedeeld gesprek bevatte een plan voor een aanslag op Musk. Journalisten en onderzoekers — onder anderen Andrew Clifford (Forbes) en Nathan Lambert (Allen Institute for AI) — ontdekten dat intern gedeelde prompts onverwacht publiek verschenen.

Het voorval volgt kort op een soortgelijke fout bij OpenAI, dat een vindbaar-deelfunctie van ChatGPT snel terugtrok. Google zegt dat site-eigenaren zelf controle hebben over indexatie-instellingen, maar de verantwoordelijkheid ligt daarmee bij xAI om juiste beveiliging en waarschuwingen in te stellen. Tegelijk zien sommigen commerciële kansen: op LinkedIn en fora als BlackHatWorld wordt besproken hoe gedeelde Grok-chats kunnen worden ingezet om zichtbaarheid in zoekresultaten te manipuleren. xAI heeft nog geen publiek commentaar gegeven.