Autoriteit Persoonsgegevens waarschuwt voor AI-risico's
In dit artikel:
De Autoriteit Persoonsgegevens (AP) waarschuwt dat Nederland onvoldoende is voorbereid op de risico’s van kunstmatige intelligentie. In de nieuwste Rapportage AI en Algoritmes Nederland (RAN) concludeert de privacytoezichthouder dat technologische ontwikkeling sneller gaat dan de inrichting van toezicht en regelgeving, waardoor een groeiende kloof ontstaat tussen innovatie en de bescherming van grondrechten.
Belangrijk bewijs daarvoor is de door de AP ontwikkelde AI-impactbarometer: die staat momenteel op rood. Volgens de AP wijst dit op structurele risico’s rond het gebruik van AI en een tekort aan effectieve beheersmaatregelen. De toezichthouder beoordeelt onder meer transparantie over gebruikte algoritmes, aanwezigheid van toezicht, uitvoering van risicoanalyses en bescherming van fundamentele rechten. Uit die analyse blijkt dat veel overheidsinstanties en bedrijven niet goed inzicht hebben in welke systemen ze inzetten en welke gevolgen dat kan hebben. Gevolgen zoals discriminatie of foutieve besluitvorming worden daardoor soms pas zichtbaar als systemen al in gebruik zijn.
Daarnaast worden incidenten met AI-systemen volgens de AP te weinig geregistreerd en gedeeld, waardoor leren van fouten en het voorkomen van herhaling moeilijk blijft. Nieuwe technologieën — met name generatieve en autonome AI — maken toezicht ook complexer omdat deze systemen zelfstandiger handelen en grotere maatschappelijke effecten kunnen hebben.
Tegelijk erkent de AP positieve signalen: investeringen in het Nederlandse AI-ecosysteem lopen grotendeels volgens plan en maatschappelijke aandacht voor AI-impact neemt toe. Die ontwikkelingen zijn echter niet voldoende om de huidige problemen te compenseren.
De AP wijst erop dat de aankomende Europese AI-verordening (EU AI Act) een belangrijk instrument biedt: die introduceert een risicogebaseerd kader en strengere eisen voor toepassingen met grote maatschappelijke impact. Cruciaal is volgens de toezichthouder dat Nederland die regelgeving snel en eenduidig implementeert, met voldoende middelen voor toezicht en heldere richtlijnen voor organisaties. Met de rode barometer wil de AP beleidsmakers en organisaties aansporen te handelen voordat technologische adoptie de bescherming van burgers verder overstijgt.