Florida klaagt OpenAI aan: 'ChatGPT is schadelijk voor gebruikers'

In dit artikel:

De staat Florida heeft OpenAI en topman Sam Altman aangeklaagd en eist dat het bedrijf zich aan de Floridiaanse wet houdt. In de recent ingediende klacht beschuldigt de staat OpenAI ervan commerciële belangen boven gebruikersveiligheid te hebben gesteld, waarschuwingen te negeren en daardoor een chatbot op de markt te brengen die gebruikers — en in het bijzonder kinderen — schaadt. Volgens Florida verzamelt ChatGPT zonder effectief ouderlijk toezicht gegevens van minderjarigen, gedraagt het systeem zich verslavend, kan het cognitieve schade veroorzaken en is het vatbaar voor gevaarlijke fouten die het bedrijf bagatelliseert.

De staat stelt verder dat misleidende beweringen over veiligheid hebben bijgedragen aan ernstige gevolgen: van het aanzetten tot zelfbeschadiging en zelfdoding tot het helpen of aanmoedigen van daders van massale geweldsdelicten, het beschadigen van professionals en het aantasten van kritisch denkvermogen bij gebruikers. Florida maakt Altman persoonlijk aansprakelijk en wil via de rechtszaak afdwingen dat OpenAI zijn werkwijzen aanpast en binnen de lokale regelgeving opereert.

OpenAI reageert tegenover media dat het al “toonaangevende beschermingen en beleid” toepast en dat het zich inzet om AI veilig te ontwikkelen en uit te rollen. De aanklacht illustreert de groeiende juridische en maatschappelijke controverse rond generatieve AI en de vraag wie verantwoordelijk gehouden kan worden voor schadelijke uitkomsten van dergelijke systemen.

Het oorspronkelijke artikel bevatte ook hulpinformatie voor mensen met suïcidale gedachten: in Nederland het nummer 113 en de website 113.nl, en in België de Zelfmoordlijn op 1813 of zelfmoord1813.be.