Claude gaat gebruikers blokkeren bij vermoeden minderjarigheid

In dit artikel:

Anthropic ontwikkelt een systeem dat op basis van gesprekken met chatbot Claude kan inschatten of een gebruiker minderjarig is; bij een vermoeden wordt de toegang geblokkeerd. Het bedrijf zegt te letten op ‘subtiele signalen’ in chats, maar geeft niet aan welke aanwijzingen dat precies zijn. In de gebruiksvoorwaarden staat dat alle gebruikers minstens 18 jaar moeten zijn. Op dit moment blokkeert Anthropic accounts al wanneer iemand expliciet meldt minderjarig te zijn; wanneer het nieuwe classificatiemodel wordt ingevoerd is onduidelijk.

Ook OpenAI werkt aan leeftijdsschatting voor ChatGPT, maar hanteert een ander beleid: minderjarigen worden niet geweerd; de bot past striktere veiligheidsregels toe bij vermoedens van jeugdige gebruikers en kan bij suïcidale uitingen ouders of hulpdiensten inschakelen. De plannen roepen bredere vragen op over privacy, fout-positieven en de balans tussen online veiligheid en toegang voor jongeren.