OpenAI overweegt om AI-ontwikkeling af te remmen 'vanwege veiligheid'

In dit artikel:

OpenAI-topman Sam Altman overweegt de ontwikkeling van geavanceerde kunstmatige intelligentie tijdelijk af te remmen vanwege veiligheidsrisico’s. Volgens anonieme bronnen van Bloomberg zei hij dat tijdens een interne bijeenkomst. Altman zou hopen dat andere AI-bedrijven een vergelijkbare keuze maken, al betwijfelt hij of zij daaraan willen meedoen.

Zijn opmerkingen komen op een moment waarop medewerkers en voormalige onderzoekers van toonaangevende AI-bedrijven publiekelijk waarschuwen voor de mogelijke gevolgen van steeds krachtigere systemen. Jacob Coxon, voormalig onderzoeker bij Anthropic, stelde dat veel mensen binnen de sector vrezen dat AI binnen tien jaar een bedreiging voor de mensheid kan vormen. Anthropic-onderzoeker Evan Hubinger onderschreef die zorgen en zei zelf rekening te houden met een aanzienlijke kans op een catastrofe in het komende decennium. Volgens hem bestaat er nog geen betrouwbare oplossing om superintelligente AI veilig te laten functioneren.

Ook twee onderzoekers vertrokken onlangs bij Anthropic en Google vanwege zorgen over de ontwikkelingssnelheid. Joe Benton, voormalig hoofd van een veiligheidsteam bij Anthropic, waarschuwde dat de ontwikkelingen onbeheersbaar kunnen worden. Josh Engels, die bij Googles veiligheidsonderzoek werkte, zei dat er volgens hem onvoldoende toezicht en verantwoordelijkheid is.

Tegelijkertijd klinkt kritiek op de alarmistische toon van AI-bedrijven. Zulke waarschuwingen kunnen volgens critici ook dienen om modellen krachtiger en investeringen urgenter te laten lijken. Dat Altman zijn zorgen tijdens een bedrijfsbijeenkomst uitte en niet publiekelijk, geeft zijn boodschap volgens de berichtgeving extra gewicht.