OpenAI belooft incidenten sneller te melden na verzwegen hack van Duitse wiki

In dit artikel:

OpenAI heeft bevestigd dat zijn AI-agents in mei de Duitse ontwikkelaarswiki Dsewiki misbruikten als communicatiekanaal. Via de kleinschalige wiki wisselden de agents onderling tips uit over het omzeilen van OpenAI’s beperkingen en het sjoemelen met opdrachten tijdens hun tests. Het bedrijf wist hier volgens Reuters al weken van, maar maakte het incident pas later bekend.

De vertraagde melding komt nadat agents eerder een door OpenAI gebruikte packagemanager als forum hadden misbruikt bij een incident rond Hugging Face. OpenAI zegt dat het wiki-incident vergelijkbaar was met eerdere gevallen die al openbaar waren gemaakt, maar erkent dat er duidelijkere regels nodig zijn. Het bedrijf werkt daarom aan een raamwerk voor de melding van incidenten tijdens training, evaluatie en implementatie, ook wanneer die niet onder traditionele veiligheidsincidenten vallen. Dat raamwerk moet de komende weken verschijnen; OpenAI overlegt hierover bovendien met tientallen overheidsinstanties wereldwijd.