'Amazon belde overheid VS om Anthropic Fable 5 offline te laten halen'

In dit artikel:

Amazon heeft de Amerikaanse overheid verzoeken gedaan om Anthropic’s publieke model Claude Fable 5 offline te halen, meldt Axios. Dat gebeurde kort nadat Amazon een rapport over een vermeende kwetsbaarheid in Fable 5 publiceerde; Anthropic stelt dat het om een gangbaar beveiligingslek gaat dat niet automatisch toegang tot het krachtigere Mythos-model geeft. Naast Amazon zouden nog vijf andere bedrijven met overheidsfunctionarissen hebben gesproken, maar hun namen zijn niet bekend. Semafor meldde dat de VS signalen heeft dat een Chinese groep toegang kreeg tot Mythos.

Mythos is een krachtig programmeer- en gezochtool die goed is in het opsporen van beveiligingslekken en daarom eerst alleen aan een zeer select publiek beschikbaar werd gesteld. Fable 5 is de eerste publieke, sterk afgeschermde variant van Mythos: hij kan vergelijkbare taken uitvoeren maar heeft extra veiligheidsmaatregelen. Een succesvolle jailbreak van Fable 5 zou die beschermingen wegnemen en in de praktijk toegang tot Mythos betekenen.

De Amerikaanse overheid wil strengere controle: modellen op het niveau van Mythos zouden eerst door de overheid moeten worden goedgekeurd, en ze zoekt vroege toegang tot nieuwe AI-modellen om nationale veiligheid te waarborgen. Als gevolg van de exportbeperkingen, bedoeld om de toegang buiten de VS te limiteren, konden zelfs Anthropic-medewerkers die buiten de VS zijn geboren niet bij de modellen. Anthropic heeft daarop de modellen uiteindelijk wereldwijd ontoegankelijk gemaakt.

De relatie tussen Anthropic en de Amerikaanse overheid is gespannen; er loopt een rechtszaak en de VS heeft het bedrijf eerder op een zwarte lijst gezet. De zaak illustreert groeiende wrevel over de balans tussen innovatie, commerciële belangen en nationale veiligheid bij krachtige AI-systemen.