Fable 5 keert terug en Anthropic wil nu de regels voor AI bepalen

In dit artikel:

Anthropic brengt zijn nieuwste model Fable 5 na drie weken weer uit voor Claude-gebruikers, maar in een sterk beveiligde vorm. De terugkeer volgt op een rel rond een opvallend simpele kwetsbaarheid: Amazon zou het model hebben kunnen omzeilen met een ogenschijnlijk onschuldige prompt om code te “fixen”. Dat incident leidde in de VS tot onrust en tot exportbeperkingen voor Fable en het zwaardere Mythos, dat door de overheid als een potentieel cyberrisico wordt gezien.

Het artikel stelt dat de vermeende jailbreak technisch gezien beperkt was, maar dat de reactie eromheen veel groter werd dan nodig. Tegelijk probeert Anthropic van dit moment gebruik te maken om veiligheidsnormen voor de hele AI-sector neer te zetten. Het bedrijf ontwikkelt een indeling van beveiligingsniveaus en aanvalsvormen, van onschuldig tot echt schadelijk, en kiest bij de uitrol van Fable 5 voor extra voorzichtigheid, ook bij toepassingen die waarschijnlijk weinig risico vormen.

Daarmee groeit de kloof tussen zelfregulering en overheidsingrijpen. Waar OpenAI vroeger zelf afwoog wanneer een model te gevaarlijk was om vrij te geven, dwingt de huidige geopolitieke spanning nu zwaardere voorzorgsmaatregelen af. Maar een wereldwijde standaard wordt lastig, omdat Chinese en andere buitenlandse AI-spelers zich niet zomaar aan Amerikaanse regels zullen houden. De kern van het stuk: AI-veiligheid wordt steeds meer een strijd om regels, macht en marktaandeel, en die strijd zal waarschijnlijk rommelig blijven.