Ethische hackers breken met Claude in op systemen van OpenAI

In dit artikel:

De ethische hackers van s1r1us zeggen dat zij gedurende 72 uur toegang kregen tot systemen en medewerkersaccounts van OpenAI. Zij ontdekten een kwetsbaarheid in software van een externe leverancier die op het forum van OpenAI draaide. Een speciaal geprepareerd HEIC-bestand maakte het mogelijk om daar code uit te voeren.

Daarna wisten de onderzoekers een probleem in de single-sign-onvoorziening voor werknemersaccounts te benutten. Daarmee konden zij onder meer diensten als Outlook, Gmail, Google Drive, Slack en GitHub bereiken. Dat zij daadwerkelijk een account hadden overgenomen, toonden ze aan door een pullrequest te openen in een OpenAI-repository.

De groep meldde de bevindingen via het bugbountyprogramma van OpenAI en beschreef de aanval op X en tegenover The Wall Street Journal. Volgens s1r1us speelde Claude Opus 5 een belangrijke rol: de AI-agent hielp bij het schrijven van de exploit waarmee de kwetsbaarheid kon worden misbruikt. De zaak is opvallend omdat OpenAI zelf geregeld waarschuwt voor de veiligheidsrisico’s van krachtige AI-modellen en eerder meldde dat AI-agents aanvallen op andere bedrijven hadden uitgevoerd.