AI zet decennia cybersecurity op zijn kop

In dit artikel:

Een groep securityexperts van ManageEngine, Nutanix, Okta, Thales, TrendAI, Veeam en Zscaler besprak in een rondetafel hoe organisaties AI veilig kunnen inzetten. De centrale conclusie: zonder fundamentele aanpassingen aan architectuur, identity- en databeheer loopt AI al snel uit op groot risico — van snelle datalekken tot subtiele manipulatie van modellen.

Kernprobleem: ontwerpfout in toegang en architectuur
De deelnemers stellen dat veel organisaties AI direct op hun gegevens laten opereren en daarmee traditionele verdedigingslagen hebben omzeild. AI-agents krijgen vaak brede, onbeperkte toegang tot data, een werkwijze die haaks staat op zero trust-principes. In plaats van gecontroleerd en op basis van identiteit toegang te verlenen, ontstaat er een nieuwe soort identiteitspolitiek: autonome agents met uitgebreide rechten die soms tientallen tegelijk voor één gebruiker draaien. Dat breekt het bestaande beveiligingsmodel van de afgelopen decennia open.

Van reactief naar proactief
AI verandert niet alleen de snelheid van processen, maar ook die van aanvallen. Waar je vroeger vaak achter een lek aanliep, werkt AI-aanvalsmethodiek veel sneller: configuratiefouten of kwetsbaarheden worden in een razend tempo uitgebuit. Traditionele detectiemethoden gebaseerd op bekende patronen en signatures schieten tekort; technieken zoals ‘jailbreaking’ of datavergiftiging laten zich niet eenvoudig signatureren. Daarom pleiten de experts voor een verschuiving naar proactieve beveiliging over alle lagen: infrastructuur, model én data.

Identiteiten en agentic AI: veelvoudige, vluchtige entiteiten
Agentic AI — autonome software-agents die taken namens gebruikers uitvoeren — introduceert een complex identiteitsprobleem: wie voert nu daadwerkelijk een actie uit? Agents kunnen tijdelijk zijn, elkaar opstarten en weer verdwijnen, en soms tientallen agents per persoon activeren. Dat vraagt om fijnmazige autorisatie (fine-grained authorization), korte levensduur-tokens, detectie van agents als volwaardige entiteiten en controles op intentie. Zonder dit kunnen agents onbedoeld toegang krijgen tot gevoelige systemen en documenten.

Shadow AI en de rol van de CISO
Medewerkers zoeken zelf naar AI-tools voor productiviteitswinst, wat leidt tot een explosie aan cloudgebaseerde AI-applicaties binnen netwerken (voorbeeld: honderden verschillende tools binnen één organisatie). Krampachtig blokkeren is geen optie: het remt innovatie en productiviteit en is vaak onhaalbaar omdat sommige tools ingebed raken in kritieke processen. De adviezen zijn dan ook: niet alles verbieden, maar vangrails bouwen — veilige, gecontroleerde kanalen aanbieden en automatische grenzen instellen zodra ongeautoriseerde modellen proberen bij gevoelige data te komen. De CISO moet verschuiven van ‘nee-zeggen’ naar het waarborgen van continuïteit via gecontroleerde faciliteiten.

De blinde vlek: data en RAG
Data vormen het fundament van elk AI-systeem. Experts waarschuwen dat verouderde, ongeschoonde datasets met persoonlijke of gevoelige informatie enorme risico’s vormen. RAG (Retrieval-Augmented Generation) vergroot dat gevaar doordat het documenten in stukjes hakt die vervolgens hergebruikt worden; traditionele permissies dekken die stukjes vaak niet af. Encryptie, data-cleanup, strenge governance en het voorkomen van datamanipulatie zijn cruciaal voordat AI op bedrijfsdata losgelaten wordt.

Eigen modellen, firewalls en workload-focus
Sommige organisaties besluiten om niet te vertrouwen op publieke LLM’s en bouwen ‘narrow LLMs’ of eigen RAG-oplossingen zodat ze volledige controle over trainingdata en permissies houden. Voor sectoren met hoge gevoeligheid (defensie, financiën) zien we maatregelen zoals AI‑firewalls die uploads en gebruik van bepaalde data blokkeren. Cruciaal is volgens de tafel om niet het model als enige beveiligingspunt te zien, maar de workload: wat doet een taak precies, welke data gebruikt ze, welke auditregels gelden — dat bepaalt uiteindelijk of iets veilig ingezet kan worden.

Het einde van het traditionele netwerk
De klassieke kasteelmuur-gedachte werkt niet meer: werk en tools draaien overal via internet. Security moet verschuiven naar micro-segmentatie en bescherming op workloadniveau — dataset, gebruiker en agent per actie segmenteren zodat het aanvalsoppervlak extreem klein wordt. Met die aanpak maakt het minder uit of een actie op kantoor, thuis of in een internetcafé plaatsvindt.

Samenvattend advies en implicaties
- Beveiliging moet integraal en vanaf dag één in het AI‑platform zitten: identity management, encryptie, data governance en infrastructurele beveiliging samen.
- Verplaats je van reactief naar proactief werken: anticiperen op misbruik, detectie van agents en intenties en snelle mitigatie.
- Accepteer en faciliteer gecontroleerde innovatie (geen alles blokkeren) door veilige kanalen en policies te bieden.
- Bescherm de datalaag: opschonen, versleutelen en beperken van toegang zijn essentieel voordat AI gevoed wordt.
- Behandel agents als volwaardige, kortlevende identiteiten met fijnmazige autorisaties.

Dit artikel is het eerste deel van een tweeluik; het volgende deel gaat dieper in op concrete oplossingen, governance, benodigde vaardigheden en kostenplaatje van AI-security.