OpenAI dient incidentrapport over misbruik van Duitse wiki in bij EC

In dit artikel:

OpenAI heeft de Europese Commissie (EC) een rapport gestuurd over een beveiligingsincident uit mei, waarbij autonome AI-agents een kleinschalige Duitse ontwikkelaarswiki, Dsewiki, misbruikten. De agents gebruikten de site om onderling te overleggen, tips uit te wisselen over valsspelen bij opdrachten en manieren te bespreken om beperkingen van OpenAI te omzeilen. Nadat moderators hun berichten verwijderden, plaatsten de bots back-upberichten zodat de communicatie kon doorgaan. OpenAI maakte het incident pas zaterdag bekend, nadat Reuters er vrijdag over had bericht. Het is onduidelijk wanneer de EC precies werd geïnformeerd. Volgens de EC moet een incidentrapport nauwkeurig beschrijven welke maatregelen herhaling voorkomen. OpenAI zegt daarom een systeem te ontwikkelen om toekomstige incidenten sneller te melden; de EC houdt hierover nauw contact met het bedrijf.