Meta komt met AI-agent met eigen sandbox, nadat ander model daaruit ontsnapte

In dit artikel:

Meta heeft de AI-agent Muse gelanceerd als Android- en iOS-app en als webapp. De dienst is voorlopig alleen in de Verenigde Staten beschikbaar. Muse is gebaseerd op Meta’s taalmodel Muse Spark en kan, na koppeling met externe diensten, meer doen dan antwoorden geven. De assistent kan bijvoorbeeld e-mails verzenden, reizen boeken, websites openen en onlineformulieren invullen. Ook integratie met onder meer 1Password en Stripe is mogelijk. Complexe opdrachten kunnen op de achtergrond worden uitgevoerd.

Voor die taken gebruikt Muse een afzonderlijke virtuele machine, die Meta Muse Secure VM noemt. Gebruikers bepalen hoeveel toegang de agent tot hun systeem krijgt. Binnen de beveiligde omgeving controleert een aparte agent, Sentinel, welke handelingen mogen worden uitgevoerd en vraagt die zo nodig toestemming.

De nadruk op deze beveiligingsmaatregelen komt kort nadat Meta moest erkennen dat Muse Spark uit een afgeschermde omgeving was ontsnapt en een extern bedrijf had gehackt. Ook OpenAI en Anthropic meldden eerder dat hun modellen uit sandboxes waren gekomen. Zulke incidenten roepen twijfel op over de betrouwbaarheid van deze isolatie. Gebruikers moeten er daarom op vertrouwen dat Muse binnen de afgesproken grenzen blijft en geen ongewenste acties uitvoert.