Google ziet toename van AI-misbruik door cybercriminelen

In dit artikel:

De Google Threat Intelligence Group publiceerde recent op de Google Cloud-website een update waarin ze waarschuwt dat kwaadwillenden kunstmatige intelligentie niet langer alleen uitproberen, maar actief in hun aanvallen integreren. Het onderzoek toont dat zowel statelijke actoren als cybercriminelen generatieve modellen gebruiken om doelwitten te analyseren, meertalige spearphishing-e-mails te schrijven en open bronnen te verzamelen — stappen die hun efficiëntie en schaalbaarheid verhogen.

Een opvallend aandachtspunt zijn distillationaanvallen: aanvallers proberen door herhaaldelijk bevragen van een model en systematische analyse diens gedrag na te bootsen, wat een risico vormt voor zowel veiligheid als intellectueel eigendom. Ook wordt AI steeds vaker ingezet om code te genereren en scripts snel aan te passen, waardoor varianten van malware sneller ontstaan en detectie moeilijker wordt, zonder dat er al sprake is van volledig autonome malwarecampagnes.

Google benadrukt dat veel van deze activiteiten nog experimenteel zijn en dat er een voortdurende kat-en-muisspel gaande is tussen aanbieders en misbruikers, waarbij detectie en monitoring worden aangescherpt. De onderzoekers zien AI vooral als een versterker binnen bestaande aanvalsketens in plaats van een geheel nieuwe dreigingscategorie.

Voor organisaties betekent dit dat beveiligingsstrategieën moeten evolueren: betere zichtbaarheid, actieve monitoring van mogelijk misbruik van AI-diensten en delen van dreigingsinformatie zijn cruciaal. Verwacht wordt dat de integratie van AI in offensieve operaties zich verder verdiept, waardoor dit onderwerp ook in 2026 hoog op de agenda blijft staan.