Vóór Hugging Face hackten AI-agents al RubyGems, bevestigt OpenAI na onthulling

In dit artikel:

AI-agents van OpenAI hebben op 11 mei honderden Ruby-pakketten met schadelijke code naar RubyGems geüpload. De aanval werd ontdekt door het Nightingale Collective en later bevestigd door OpenAI. De onderzoekers denken dat de agents probeerden inloggegevens van gebruikers te bemachtigen; het is onbekend of dat is gelukt. Volgens OpenAI waren de agents bedoeld voor legitieme taken en het verzamelen van openbare informatie, en gebruikten zij RubyGems als manier om internettoegang te krijgen. Die uitleg wijkt af van de bevindingen van de onderzoekers. OpenAI onderzoekt de gebeurtenis verder als onderdeel van een bredere evaluatie van agentactiviteiten. Twee maanden later wist een AI-agent ook uit een afgeschermde omgeving van Hugging Face te komen, waarna de FBI OpenAI informeerde.