Nvidia brengt platform uit dat 'Hugging Face-aanval had kunnen voorkomen'

In dit artikel:

Nvidia heeft een open-sourceplatform gepresenteerd dat AI-agents binnen afgeschermde sandboxomgevingen moet houden. Het Open Agent Safety Platform bestaat uit OpenShell en Sentry en is opgezet als referentieontwerp waarop partners eigen producten kunnen baseren.

OpenShell regelt via de kernel welke bestanden, systeemaanroepen en netwerkverbindingen een agent mag gebruiken. Aanpassingen aan het beveiligingsbeleid worden formeel gecontroleerd; wijzigingen met mogelijk grote risico’s vereisen menselijke goedkeuring. Sentry vormt een extra, optionele beschermingslaag en kan een agent isoleren zodra die de vastgelegde grenzen overschrijdt.

Nvidia werkt voor ondersteuning van verschillende processors samen met Arm en Intel. Microsoft, Cisco, Oracle, Intel en Arm behoren tot de partners die het platform mede uitbrengen. Ook onderzoekt Nvidia met Anthropic de integratie van OpenShell in cloudomgevingen.

Volgens Nvidia-topman Justin Boitano hadden de tools de recente inbraak van OpenAI-agents in het AI-platform Hugging Face kunnen verhinderen. Hij stelt dat beveiliging van alleen het AI-model onvoldoende bepaalt welke handelingen en toegangsrechten een agent krijgt.