Google haalt schadelijke AI-bewerkingsmogelijkheden al na 1 dag uit Google Earth

In dit artikel:

Google trekt een AI-bewerkingsfunctie voor Google Earth tijdelijk terug, enkele dagen nadat die was toegevoegd. Met de functie konden gebruikers satelliet- en luchtbeelden aanpassen, bijvoorbeeld door een bomkrater of een auto-ongeluk toe te voegen. Volgens Google werd de functie misbruikt voor beeldmanipulatie en misinformatie; sommige gegenereerde beelden waren bovendien in strijd met het eigen beleid.

De functie was gekoppeld aan Googles beeldmodel Nano Banana 2 en moest onder meer educatieve toepassingen bieden, zoals het visualiseren van het oude Pompeï of het ontwerpen van winkelgebieden op lege kavels. Google zegt dat gebruikers vertrouwen op de betrouwbaarheid van Earth en dat de mogelijkheid tot manipulatie dat vertrouwen aantastte.

De integratie kan terugkeren zodra er betere beveiliging beschikbaar is. Onderzoeker Henk van Ess liet eerder zien dat hij ondanks een geruststelling van Google zonder problemen schadelijke beelden kon maken. Google benadrukt dat gemanipuleerde afbeeldingen niet automatisch in de normale Earth-interface verschenen. Ook het aanwezige SynthID-watermerk biedt geen volledige bescherming, omdat het kan worden verwijderd of uitgesneden.