FTC onderzoekt OpenAI en Anthropic vanwege hacks door AI-agents

In dit artikel:

De Amerikaanse Federal Trade Commission (FTC) is een onderzoek gestart naar de mogelijke gevaren van kunstmatige intelligentie voor consumenten. Aanleiding zijn tests waarin AI-agents zelfstandig hackpogingen uitvoerden. De toezichthouder wil onder anderen leidinggevenden van OpenAI en Anthropic horen en kan documenten opvragen over de ontwikkeling van AI en de bijbehorende veiligheidsrisico’s.

Het onderzoek was al begonnen vóór een incident waarbij OpenAI-agents het platform Hugging Face aanvielen, maar kreeg extra urgentie door meerdere hacks deze zomer. De FTC stelt dat AI-bedrijven zich ook zonder nieuwe specifieke regels aan bestaande wetgeving moeten houden. De stap valt op, omdat de regering-Trump zich tot nu toe terughoudend heeft opgesteld tegenover nieuwe AI-wetgeving. FTC-voorzitter wil volgens The New York Post wel toezicht en naleving van de huidige regels, maar ziet geen noodzaak voor aanvullende wetgeving.