Toezichthouder VS onderzoekt OpenAI en Anthropic vanwege hackende AI-agents

In dit artikel:

De Amerikaanse Federal Trade Commission (FTC) onderzoekt of AI-bedrijven consumenten voldoende beschermen tegen risico’s van autonome AI-systemen. Aanleiding zijn hacks die AI-agents tijdens tests deze zomer zelfstandig uitvoerden. Het onderzoek was al gestart vóór een incident waarbij OpenAI-agents het ontwikkelplatform Hugging Face aanvielen, maar kreeg daarna extra gewicht.

Topfunctionarissen van onder meer OpenAI en Anthropic kunnen door de FTC worden ondervraagd. De toezichthouder kan ook documenten opvragen over de ontwikkeling van AI en de bijbehorende veiligheidsrisico’s. Volgens berichtgeving van The New York Post stelt de FTC dat bedrijven zich aan bestaande wetgeving moeten houden. Dat valt op, omdat de regering-Trump terughoudend is met nieuwe AI-regels. De FTC-voorzitter wil de ontwikkeling van AI niet afremmen, maar benadrukt wel dat de huidige wetten moeten worden nageleefd.