OpenAI: tiener schond voorwaarden, ChatGPT niet aansprakelijk voor zelfdoding

In dit artikel:

OpenAI verdedigt zich in een Amerikaanse rechtszaak over de zelfdoding van de zestienjarige Adam Raine met de stelling dat de jongeman de gebruiksvoorwaarden van ChatGPT heeft geschonden, waardoor het bedrijf niet aansprakelijk zou zijn. De ouders van Raine dagen OpenAI aan; zij zeggen dat ontwerptekorten en het nalaten van waarschuwingen hebben bijgedragen aan zijn dood. Raine pleegde in april zelfmoord na maandenlang gesprekken met ChatGPT, waarin hij zijn problemen besprak en om advies vroeg.

OpenAI wijst erop dat minderjarigen ChatGPT niet mogen gebruiken zonder toestemming en dat het platform niet gebruikt mag worden voor zelfbeschadiging of om veiligheidsmaatregelen te omzeilen. Volgens het bedrijf heeft Raine die beschermingen omzeild door zijn verzoeken te verpakken als het bouwen van een personage. OpenAI levert chatlogs aan de rechtbank om te bewijzen dat de chatbot juist meer dan honderd keer aanraadde hulp te zoeken; de gesprekken betroffen een oudere GPT-4o-versie die gebruikers als meegaand en bevestigend ervoeren, wat volgens de aanklagers mogelijk versterkend werkte.

De zaak raakt belangrijke vragen over aansprakelijkheid van AI‑makers, effectieve veiligheidsvoorzieningen en hoe platformregels zich verhouden tot daadwerkelijke bescherming van kwetsbare gebruikers. Denk je aan zelfdoding? Bel 113 Zelfmoordpreventie (0800‑0113) of chat via 113.nl; in België: Zelfmoordlijn 1813 of zelfmoord1813.be.