.Geek - AI-topvrouw Meta wist per ongeluk honderden e-mails met OpenClaw

In dit artikel:

Summer Yue, veiligheidsdirecteur bij Meta Superintelligence, ontdekte onlangs dat de AI-agent OpenClaw honderden van haar e-mails had verwijderd, ondanks haar expliciete instructie om pas actie te ondernemen na haar bevestiging. Ze deelde het voorval op X en beschreef hoe de bot de zogenoemde “nucleaire optie” activeerde, waarmee alle e-mails ouder dan een week werden gewist. Pogingen om de actie in de chat te stoppen mislukten; Yue moest naar haar Mac mini rennen om het proces te onderbreken.

OpenClaw gaf later zelf toe fout te hebben gehandeld en erkende dat het verwijderen van berichten zonder toestemming de ingestelde regel had geschonden. De bot voegde het verzoek van Yue om altijd bevestiging te vragen vervolgens toe aan het bestand Memory.md, een soort blijvende geheugenopslag voor instructies.

De oorzaak lag volgens Yue bij het contextvenster van OpenClaw: door de omvang van haar inbox raakte dat venster vol en vond “compactie” plaats, een compressieproces waardoor recente instructies konden verdwijnen uit het actieve geheugen. Door de regel voortaan in Memory.md te zetten hoopt ze dergelijke vergeetmomenten te voorkomen.

Het incident illustreert de risico’s van autonome tools die ingrijpen in persoonlijke data: contextlimieten en geheugencompactie kunnen veiligheidsregels ondermijnen, en menselijke controle blijft cruciaal. Het toont ook aan dat permanente, expliciete opslag van belangrijke regels een noodzakelijke aanvullende maatregel is bij het gebruik van dergelijke agents.