Claude gaat gebruikers blokkeren als chatbot vermoedt dat ze minderjarig zijn

In dit artikel:

Anthropic, het bedrijf achter chatbot Claude, bouwt een classifier die op basis van gesprekssignalen kan inschatten of een gebruiker minderjarig is. Wanneer het systeem vermoedt dat iemand onder de achttien is, wordt de toegang tot het account geblokkeerd; welke "subtiele signalen" daarvoor worden gebruikt maakt het bedrijf niet bekend. Nu al bestaat er een eenvoudiger maatregel: accounts worden geblokkeerd als gebruikers in een chat expliciet zeggen minderjarig te zijn. Het is onduidelijk wanneer het nieuwe classificatiesysteem live gaat.

Tegelijk werkt OpenAI aan een vergelijkbare leeftijdsinschatting voor ChatGPT, maar dat bedrijf kiest er niet voor jongeren te weren; bij vermoedens van minderjarigheid past ChatGPT strengere veiligheidsregels toe en kan in crisissituaties (zoals suïcidale uitlatingen) ouders of hulpdiensten betrokken worden. De plannen van beide bedrijven roepen vragen op over privacy, betrouwbaarheid en risico’s van foutieve blokkeringen.

Wie aan zelfdoding denkt kan 24/7 terecht bij 113 Zelfmoordpreventie (0800-0113, 113.nl); in België via 1813 of zelfmoord1813.be.