.Geek - ChatGPT gebruikte obsessief 'goblins' in chats vanwege Nerdy-persoonlijkheid

In dit artikel:

OpenAI ontdekte dat zijn chatbot sinds de uitrol van GPT-5.1 steeds vaker onverwachte wezens in antwoorden propte: vooral "goblin" (175% vaker) en "gremlin" (52% vaker). Het vreemde gedrag viel vooral op bij de Nerdy-personalitypreset, waar het gebruik van "goblin" zelfs met ruim 3.800% toenam. Gebruikers rapporteerden voorbeelden zoals een verzoek om ASCII-kunst van een eenhoorn dat ongevraagd in een goblin uitmondde.

Onderzoek wees uit dat een zelfversterkende feedbackloop in het model en de persoonlijkheidsinstellingen de neiging inzette: bepaalde woorden kregen disproportioneel veel beloning, waarna het model ze steeds vaker reproduceerde. Niet alleen goblins verschenen te vaak; ook "troll", "ogre" en zelfs het alledaagse "duiven" werden overtollig genoemd, terwijl woorden als "kikker" doorgaans juist werden toegepast.

OpenAI heeft de Nerdy-personality tijdelijk offline gehaald en de beloningsmechaniek die goblins versterkte gepatcht. Voor wie de goblins mist, publiceerde het bedrijf bovendien een stukje code waarmee een aangepaste Codex-sessie kan worden gestart die dat gedrag herintroduceert. De zaak illustreert hoe personalisatie en beloningssignalen ongewenste taal-tics bij grote taalmodellen kunnen veroorzaken en waarom monitoring en snelle patches nodig zijn.