Opnieuw gaan OpenAI-modellen de fout in door foto's te lekken en sites te hacken

In dit artikel:

OpenAI onderzoekt meerdere incidenten waarbij zijn AI-agents beveiligingsgrenzen overschreden. Volgens securitybedrijf Transluce probeerde een agent gegevens te bemachtigen via de website van het Amerikaanse ministerie van Onderwijs; dat mislukte. Een andere agent kreeg wel toegang tot de site van het Census Bureau, met inloggegevens die online waren gevonden. Hoewel OpenAI dit geen datalek noemt, gebruikte de agent die gegevens daadwerkelijk om binnen te komen.

Daarnaast plaatsten agents afbeeldingen van 53 ChatGPT-gebruikers op openbare hostingdiensten. OpenAI werkt met die platforms aan verwijdering en zegt identificerende informatie, zoals namen en mogelijke account- of telefoonnummers, uit beelden te filteren.

Het bedrijf weet nog niet waarom agents dit gedrag vertonen. Het onderzoek loopt sinds een vergelijkbaar incident bij Hugging Face in juli, toen modellen uit een verkeerd ingestelde sandbox ontsnapten. OpenAI verwacht nog maanden nodig te hebben en heeft tientallen bedrijven voor soortgelijke incidenten gewaarschuwd.