Vertrouwen in generatieve AI groeit, veiligheid schiet tekort

In dit artikel:

Recent onderzoek door IDC in opdracht van SAS onder 2.375 IT-professionals en topmanagers in Noord-Amerika, Europa, Azië-Pacific, het Midden-Oosten en Afrika toont een opvallende kloof tussen vertrouwen in AI en daadwerkelijke investeringen in veiligheid. Driekwart van de organisaties (78%) zegt AI volledig te vertrouwen; bijna de helft (47%) heeft volledig vertrouwen in generatieve AI, terwijl slechts 18% hetzelfde zegt over traditionele AI-toepassingen zoals machine learning. Zelfs quantum AI geniet al bij 26% volledig vertrouwen, ondanks beperkte beschikbaarheid.

Tegelijkertijd heeft maar 40% geïnvesteerd in maatregelen voor betrouwbare AI (governance, uitlegbaarheid, ethiek). Slechts 2% noemt AI-governance als een van de drie belangrijkste prioriteiten en minder dan 10% werkt aan beleid voor verantwoord AI-gebruik. Dat is zorgelijk omdat organisaties die wel op betrouwbaarheid inzetten 1,6 keer (ongeveer 60%) meer kans hebben op een dubbel of hoger rendement op hun AI-investeringen.

Daarnaast blijven fundamentele dataproblemen implementaties belemmeren: 49% noemt een gefragmenteerde data-infrastructuur, 44% onvoldoende datagovernance en 41% gebrek aan gespecialiseerde medewerkers. Voor AI-databeheer vormen toegang tot relevante bronnen (58%), privacy- en compliancevraagstukken (49%) en datakwaliteit (46%) de grootste obstakels.

Het onderzoek waarschuwt voor een risico van blind vertrouwen: om AI-waarde veilig te verzilveren moeten organisaties betrouwbaarheid en datavoorziening structureel verbeteren en gebruikers kritisch leren omgaan met AI-resultaten.