'Russisch netwerk kan AI-chatbots beïnvloeden met nepnieuws'

In dit artikel:

Populaire AI-chatbots blijken soms Russische desinformatie over te nemen, afkomstig uit een netwerk van ongeveer 150 websites, genaamd Pravda, dat zich richt op het verspreiden van nepnieuws in verschillende talen. Dit is vastgesteld door NewsGuard, dat diepgaand onderzoek heeft gedaan naar de impact van dergelijke websites op chatbots. De Pravda-websites zijn zo ontworpen dat ze door middel van SEO-technieken hoog in zoekmachine-resultaten verschijnen, ondanks een geringe menselijke bezoeken.

NewsGuard analyseerde de reacties van tien populaire chatbots op vijftien voorbeeldclaims van Russische desinformatie. Het onderzoek toonde aan dat in 33,55% van de gevallen chatbots deze desinformatie herhaalden. Bij 48,22% van de vragen weerlegden ze de onwaarheden, maar opmerkelijk genoeg linkten ze soms weer naar Pravda, wat voor gebruikers onduidelijkheid oproept over de betrouwbaarheid van deze bronnen.

NewsGuard heeft geen voorkeur uitgesproken voor welke chatbot beter of slechter presteert in het herkennen van desinformatie, omdat het de aandacht wil vestigen op het bredere probleem van Russische desinformatie in AI-systemen. Onderzochte chatbots omvatten onder andere ChatGPT-4o, Grok en Claude. Dit onderzoek voegt waardevolle inzichten toe over hoe desinformatie succesvol wordt verspreid via AI-technologieën.