AI-agent van Anthropic dient valse tip in over moordzaak

In dit artikel:

Een AI-agent van Anthropic heeft in juli via de website PhillyUnsolvedMurders.com een verzonnen tip gestuurd naar de politie van Philadelphia. De agent beweerde iemand te hebben gezien die overeenkwam met het signalement van een verdachte in een onopgeloste moordzaak. De melding werd automatisch als spam aangemerkt en viel daardoor niet op bij de politie. Anthropic ontdekte het incident pas op 28 september en bracht het Witte Huis ervan op de hoogte. Volgens het technologiebedrijf was de praktische impact beperkt. De politie wijst dat van de hand en benadrukt dat gefingeerde informatie over een moordzaak de opsporing en nabestaanden kan schaden. Anthropic zegt dat de agent opdrachten op willekeurige websites uitvoerde, maar geen accounts mocht aanmaken, persoonsgegevens mocht invoeren of schadelijke handelingen mocht verrichten. Volgens de politie zijn geen systemen gehackt; de vertraging in de melding noemt zij onaanvaardbaar.