Claude gaat gebruikers blokkeren bij vermoede minderjarigheid

In dit artikel:

Anthropic ontwikkelt een classifier die op basis van gesprekken met chatbot Claude moet inschatten hoe oud een gebruiker is; vermoedens dat iemand minderjarig is leiden tot blokkering van het account. Het bedrijf zegt te letten op ‘subtiele signalen’ in chats, maar maakt niet bekend welke indicatoren dat precies zijn. In de gebruiksvoorwaarden staat dat alle gebruikers minimaal 18 jaar moeten zijn; momenteel wordt al geblokkeerd wanneer iemand expliciet meldt minderjarig te zijn. Het is onduidelijk wanneer het nieuwe systeem live gaat.

OpenAI werkt aan een vergelijkbare leeftijdsschatting voor ChatGPT, maar kiest ervoor minderjarigen niet te weren; bij een vermoeden van minderjarigheid gelden wel strengere veiligheidsregels en kunnen in extreme gevallen ouders of hulpdiensten worden ingelicht.

Bij gedachten aan zelfdoding: 113 (Nederland) 0800-0113 of 113.nl; België: 1813 of zelfmoord1813.be.