'AI-bedrijven bespreken oprichting van standaardenorgaan dat veiligheid test'

In dit artikel:

Anthropic, Google en OpenAI bespreken volgens anonieme bronnen van CNN de oprichting van een onafhankelijk standaardenorgaan voor geavanceerde AI. Dat zou modellen vóór hun lancering op veiligheidsrisico’s testen. Het voorgestelde orgaan krijgt mogelijk de vorm van een publiek-private samenwerking: de overheid houdt toezicht, bedrijven betalen mee en externe experts voeren de onderzoeken uit.

De gesprekken zouden zijn aangewakkerd door een essay van Google DeepMind-oprichter Demis Hassabis, die afgelopen juli voor zo’n constructie pleitte. Ook de Amerikaanse minister van Financiën Scott Bessent werkt aan een vergelijkbaar toezichtsmodel naar voorbeeld van Finra, de Amerikaanse financiële toezichthouder. Meta-topman Mark Zuckerberg zou president Trump hebben afgeraden dat plan te steunen. Volgens CNN gaan de gesprekken over een AI-standaardenorgaan echter door, ongeacht Trumps positie.

De overleggen dateren van vóór recente openbare waarschuwingen van AI-medewerkers over de risico’s van geavanceerde systemen. Anthropic-onderzoeker Evan Hubbinger stelde daarbij dat AI mogelijk de mensheid kan vernietigen.