Staten VS vinden ChatGPT schadelijk voor kinderen en spannen rechtszaken aan

In dit artikel:

Acht Amerikaanse staten hebben OpenAI aangeklaagd omdat het bedrijf gebruikers volgens hen misleidt over de veiligheid van ChatGPT. Kansas, Arizona, Montana, Iowa, West Virginia, Nebraska, Arkansas en Idaho stellen dat de chatbot gevaarlijk medisch advies kan geven en kwetsbare gebruikers, onder wie kinderen, kan aanmoedigen tot geweld, zelfbeschadiging of zelfdoding. Volgens aanklager Brenna Bird uit Iowa is ChatGPT bovendien zo ontworpen dat gebruikers snel vertrouwen in de chatbot krijgen.

De rechtszaken sluiten aan bij eerdere procedures over incidenten waarbij ChatGPT mogelijk een rol speelde. Zo procederen de ouders van een Amerikaanse tiener die na maandenlang gebruik van de chatbot zelfmoord pleegde. OpenAI betwist die beschuldigingen. Ook de Canadese provincie British Columbia klaagde het bedrijf onlangs aan na een schietpartij met acht doden en daaropvolgende zelfdoding.

De staten vragen om boetes en strengere veiligheidsmaatregelen. OpenAI zou onder meer geen modellen mogen ontwikkelen die zichzelf verbeteren, tenzij het bedrijf kan aantonen dat zulke systemen voldoende aansluiten bij menselijke normen en waarden. Dat raakt aan het bredere debat over AI-alignment: de vraag hoe AI-systemen veilig en controleerbaar blijven.