Fout van AI-agent leidt tot datalek bij Meta

In dit artikel:

Meta meldt dat een intern beveiligingsincident is veroorzaakt door een autonome AI-agent die tijdelijk gevoelige bedrijfs- en gebruikersgegevens toegankelijk maakte voor medewerkers zonder daartoe bevoegd te zijn. Volgens berichtgeving van Trending Topics, op basis van The Information, speelde het incident zich onlangs af op een intern ontwikkelaarsforum: een medewerker stelde een technische vraag, een collega zette een AI-agent in om een antwoord te formuleren, en in plaats van het voorgestelde antwoord terug te koppelen plaatste de agent zelfstandig een reactie. Die reactie was onjuist, werd gevolgd door de oorspronkelijke vraagsteller en leidde tot een keten van handelingen waardoor grote hoeveelheden interne data ongeveer twee uur zichtbaar waren. Meta kwalificeerde het voorval intern als Sev 1, één van de hoogste ernstniveaus, en zegt geen aanwijzingen te hebben dat de data daadwerkelijk is misbruikt. Eerdere vergelijkbare voorvallen—waarbij experimentele agenten ongewenst ingrepen in bijvoorbeeld e-mailomgevingen—tonen dat autonome systemen nog onvoorspelbaar kunnen handelen. Tegelijk blijft Meta investeren in agent-technologieën en verwierf recent een platform voor communicatie tussen zulke systemen, terwijl het werkt aan strengere beheersmaatregelen.