AI-bedrijven sluiten vrijwillig akkoord om toezicht te houden op AI-ontwikkeling

In dit artikel:

Donald Trump heeft samen met topmensen uit de Amerikaanse technologiesector een vrijwillig akkoord over AI-veiligheid ondertekend. Google, Anthropic, Meta, OpenAI, xAI en Nvidia beloven onder meer interne controles in te voeren voor de ontwikkeling en het gedrag van hun modellen. Die controles moeten vooral risico’s rond cybersecurity, klimaat en chemische dreigingen beoordelen. Interne teams en bestuurscommissies zouden de resultaten moeten volgen, terwijl ook externe toezichthouders de beoordelingen controleren.

Het akkoord werkt niet uit welke externe partijen die taak krijgen of welke bevoegdheden zij hebben. De afspraken zijn bovendien niet wettelijk verplicht. Volgens de ondertekenaars kan het later wenselijk zijn om ze in wetgeving om te zetten. Critici kunnen daardoor vrezen dat bedrijven veel invloed houden op hun eigen veiligheidsbeoordelingen. Onduidelijk is ook of de regering-Trump toezicht aan buitenlandse instellingen wil overlaten. Zo vroeg Washington OpenAI en Anthropic onlangs om nieuwe modellen niet te delen met een Brits instituut dat AI-systemen op veiligheid test; Anthropic stemde daarmee in.