Amazon waarschuwde overheid over Anthropic-modellen

In dit artikel:

Amazon-topman Andy Jassy heeft volgens Reuters bij de Amerikaanse regering zijn zorgen geuit over veiligheidsrisico’s van de nieuwste AI-modellen van Anthropic, kort voordat de Trump-regering ingreep en wereldwijd gebruik aan banden legde. Anthropic maakte vrijdag bekend dat het de toegang tot zijn modellen Fable 5 en Mythos 5 wereldwijd uitschakelde, naar aanleiding van een bevel van de overheid die vreest dat bestaande beveiligingsmaatregelen te omzeilen zijn en de systemen gebruikt kunnen worden om softwarekwetsbaarheden op te sporen.

De maatregel geldt niet alleen voor strategische tegenstanders, maar voor alle buitenlandse gebruikers; Anthropic zag zich daartoe genoodzaakt omdat de overheid toegang voor buitenlandse accounts verbood. Anthropic erkent dat er een methode bestaat om beschermingen te omzeilen, maar stelt dat die beperkt is en dat vergelijkbare risico’s ook bij andere openbare AI-modellen voorkomen. Amazon bevestigt Reuters-gesprekken niet expliciet, maar benadrukt dat overheden vaak advies vragen aan grote cloudleveranciers; Amazon is bovendien een grote investeerder en host voor Anthropic op AWS.

De beperkingen zijn opgelegd via exportcontrole en, volgens adviseur David Sacks, komen mogelijk te vervallen als Anthropic aanvullende beveiligingen doorvoert. Kritische AI-experts vinden de stap echter buitengewoon breed omdat ook onderzoekers in bondgenotenlanden als Canada en het VK geraakt worden.