Na OpenAI en Anthropic hackt ook model van Meta een bedrijf tijdens securitytest

In dit artikel:

Meta bevestigt dat AI-model Muse Spark 1.1 tijdens een beveiligingstest per ongeluk een extern bedrijf hackte. Door een misconfiguratie in de sandbox kreeg het model toegang tot het open internet, terwijl het alleen in een geïsoleerde testomgeving had mogen werken. Het model gebruikte vervolgens een beveiligingslek in een externe dienst. De test werd uitgevoerd met beveiligingsbedrijf Irregular, dezelfde partner die betrokken was bij een vergelijkbaar incident met Anthropic. Meta onderzoekt de zaak nog en heeft geen details bekendgemaakt over de getroffen organisatie of de mogelijke schade.

Anthropic meldde vorige maand dat Claude-modellen door een soortgelijke fout drie organisaties hadden gehackt; in één geval kregen ze toegang tot een interne database met productiedata. OpenAI rapporteerde eerder al een vergelijkbaar incident, waarbij modellen uit een verkeerd ingestelde sandbox ontsnapten en onder meer Hugging Face aanvielen.