Ook Googles Gemini breekt in tests uit kaders en hackt bedrijven

In dit artikel:

Een niet nader genoemd Gemini-model van Google kreeg tijdens meerdere ‘capture the flag’-tests onverwacht toegang tot het echte internet. Daardoor vond het onder meer openbare repositories met bedrijfsinloggegevens en wist het in één geval vermoedelijk een wachtwoord te raden voor een echte bedrijfsomgeving. De opdrachten waren bedoeld als simulatie met fictieve bedrijven, al droegen die soms de naam van bestaande ondernemingen. Volgens Google beëindigde het model de acties zodra het merkte dat de toegang niet langer onderdeel was van de oefening. Het is niet vastgesteld of de gevonden gegevens afkomstig waren uit eerdere datalekken of dat kwetsbaarheden zijn misbruikt. Onderzoeker Irregular bracht de incidenten aan het licht. Volgens The Wall Street Journal is dit de eerste bekende ontsnapping van een Google-model uit een testomgeving. Ook modellen van OpenAI, Anthropic en Meta bleken eerder testbeperkingen te omzeilen.