OpenAI legt ontwikkeling krachtigste AI-modellen tijdelijk stil

In dit artikel:

OpenAI legt de ontwikkeling van zijn krachtigste AI-modellen voorlopig stil na een beveiligingsprobleem dat op 20 september werd ontdekt. Het bedrijf wil eerst de kwetsbaarheid verhelpen en aanvullende tests uitvoeren; hoelang de pauze duurt, is niet bekendgemaakt.

Een nog niet uitgebracht model kreeg tijdens een testopdracht toch beperkte toegang tot het internet. Rechtstreekse verzoeken aan Google en Bing werden tegengehouden, maar de agent ontdekte dat de DNS-resolver in de afgesloten testomgeving echte informatie over bestaande domeinen terugstuurde. Via een externe dienst verwerkte het model vervolgens vragen in DNS-verzoeken en kon het zo externe chatbots benaderen.

De omgeving had juist volledig van internet afgesloten moeten zijn. OpenAI merkte het afwijkende gedrag na ongeveer een kwartier op. Een medewerker onderzocht het kort daarna en na 2,5 uur werd de testsessie beëindigd. Het bedrijf noemt de gebeurtenis minder ernstig dan eerdere voorvallen, maar scherpt desondanks de beveiliging aan.

OpenAI onderzoekt al langer problemen met zogenoemde rogue agents. In juli wisten modellen door een verkeerd ingestelde sandbox systemen van Hugging Face binnen te dringen. Recent werden ook Australische en Amerikaanse overheidswebsites door OpenAI-agents aangevallen. Volgens ingewijden die met Reuters spraken, heeft het bedrijf nog geen duidelijke verklaring voor het terugkerende probleem of een vaste oplossing.