Google Earth laat schadelijke AI-bewerkingen door ondanks eigen verbod

In dit artikel:

Google heeft in Google Earth een nieuwe bewerkingsfunctie toegevoegd op basis van het beeldmodel Nano Banana 2, waarmee gebruikers met een simpele prompt kaarten en beelden kunnen aanpassen. De functie is bedoeld voor educatieve en creatieve toepassingen, zoals het reconstrueren van Pompeï, het tonen van historische versies van monumenten of het inrichten van lege kavels en tuinen.

Volgens critici schieten de beveiligingsmaatregelen echter tekort. Onderzoeker Hens van Ess laat in een blog zien dat hij eenvoudig een nucleaire installatie op een kaart van Iran kon plaatsen en later ook een fataal auto-ongeluk aan een Amsterdamse straat kon toevoegen. Daarmee zou de tool misinformatie en schokkende nepbeelden makkelijk kunnen maken. Google zegt desinformatie serieus te nemen en schadelijke onderwerpen te verbieden, maar in de praktijk blijkt veel mogelijk. Het bedrijf voegt wel een SynthID-watermerk toe, al kan dat uit een screenshot worden geknipt.