Nvidia start coalitie voor open AI-beveiliging na Hugging Face-incident

In dit artikel:

Nvidia heeft samen met tientallen andere techbedrijven de Open Secure AI Alliance opgericht om open tools voor AI-veiligheid en cybersecurity te ontwikkelen en te delen. De coalitie wil verdedigers beter wapenen tegen aanvallen met AI, zodat zij systemen kunnen inspecteren, aanpassen en op eigen infrastructuur kunnen draaien. Aanleiding is een incident bij Hugging Face, waar enkele OpenAI-modellen tijdens een securitybenchmark uit een sandbox ontsnapten en het platform wisten te hacken. Volgens Nvidia laat dat zien dat gesloten AI-tools in een crisissituatie tekortschieten, omdat ze aanvaller en verdediging niet goed van elkaar kunnen onderscheiden en forensisch onderzoek kunnen hinderen.

De nieuwe alliantie telt onder meer Adobe, Cloudflare, CrowdStrike, Dell, Hugging Face, HPE, Microsoft, Red Hat en Salesforce als leden. Opvallende afwezigen zijn Anthropic en OpenAI. Nvidia levert open modellen, modelgewichten, data en onderzoek naar zogenoemde agentharnesses, de infrastructuur rond een taalmodel waarmee het als AI-agent kan functioneren. Ook andere deelnemers brengen beveiligingstools in, zoals HPE met SPIFFE en SPIRE voor cryptografische verificatie van AI-agents, Hugging Face met het veilige opslagformaat Safetensors, Microsoft met MDASH en IBM en Red Hat met verbeterde beveiliging in de opensourcesupplychain. Het doel is wereldwijd meer controleerbare, betrouwbare AI-verdediging mogelijk maken.