Achtergrond - Kan AI een nucleaire ramp veroorzaken? 'AI heeft mogelijk al mensen gedood'

In dit artikel:

De discussie over kunstmatige intelligentie draait vaak om mogelijke rampen in een verre toekomst. Verschillende prominente onderzoekers en voormalige werknemers van AI-bedrijven waarschuwen echter dat de technologie nu al grote veiligheidsrisico’s oplevert. Zo verlieten onder anderen Jacob Coxon van Anthropic en Josh Engels van Google DeepMind hun werkgevers uit bezorgdheid over de manier waarop AI wordt ontwikkeld. Ook oud-verantwoordelijke voor veiligheid bij OpenAI, David Robinson, vindt dat bedrijven te weinig voorzorgsmaatregelen nemen. AI-pioniers Geoffrey Hinton en Yoshua Bengio noemen het beperken van deze risico’s een wereldwijde prioriteit. Yann LeCun, een andere grondlegger van het vakgebied, vindt zulke doemscenario’s juist sterk overdreven.

Volgens Marijn Hoijtink, hoogleraar internationale betrekkingen aan de Universiteit Antwerpen, is AI al betrokken bij militaire besluitvorming. Systemen kunnen helpen bij het opsporen en selecteren van doelen en worden getest voor het besturen van drones die vooraf bepaalde objecten aanvallen. Mensen blijven formeel verantwoordelijk, maar in de praktijk kan er weinig tijd zijn om een door een systeem voorgestelde actie nog tegen te houden. Daarmee kan AI volgens Hoijtink indirect nu al bijdragen aan dodelijk geweld.

Roy Lindelauf, hoogleraar Data Science in Militaire Operaties aan de Nederlandse Defensie Academie, ziet vooral in het cyberdomein directe gevaren. AI-agenten kunnen mogelijk worden ingezet tegen vitale infrastructuur. De technologie verlaagt bovendien de drempel voor het ontwikkelen van schadelijke software: vaardigheden waarvoor vroeger een gespecialiseerd team nodig was, kunnen straks met veel minder kennis worden benut. De experts verwijzen daarbij naar eerdere cyberwapens, zoals Stuxnet, waarmee in 2007 het Iraanse uraniumverrijkingsprogramma werd verstoord.

Bij kernwapens geldt menselijke controle volgens Hoijtink als een duidelijke grens. AI mag niet zelfstandig beslissen over het gebruik ervan, al kan de technologie wel worden gebruikt voor scenarioanalyses en het voorspellen van aanvallen en mogelijke reacties. Onderzoek waarin AI-modellen oorlogssituaties simuleerden, eindigde in 95 procent van de gevallen met een nucleaire escalatie. Lindelauf plaatst vraagtekens bij die uitkomst, omdat de modellen tijdens de simulaties hun strategieën konden aanpassen op een manier die volgens hem niet overeenkomt met echte besluitvorming.

De verspreiding van risicovolle AI is moeilijk af te remmen omdat het om software gaat die snel wereldwijd kan worden aangeboden. Lindelauf pleit daarom voor internationale regels en afspraken. Via het initiatief Responsible AI in the Military Domain proberen meer dan honderd landen richtlijnen voor militair AI-gebruik op te stellen. De steun neemt volgens de deskundigen echter af. De Verenigde Staten en China, de belangrijkste deelnemers aan de AI-wedloop, hebben recente conclusies niet ondertekend.

AI-bedrijven zeggen zelf dat zij hun modellen veilig willen ontwikkelen en werken aan technische beveiligingen die agenten moeten begrenzen. Toch twijfelen deskundigen aan volledige zelfregulering. Volgens Hoijtink werken bedrijven inmiddels steeds intensiever samen met het Amerikaanse ministerie van Defensie. De concurrentiedruk kan hen ervan weerhouden vrijwillig beperkingen op te leggen, uit angst terrein te verliezen aan rivalen. Daardoor lijkt de wens om de AI-wedloop te winnen voorlopig sterker dan de bereidheid om ontwikkeling en inzet daadwerkelijk af te remmen.