Achtergrond - Waarom AI-reuzen een rem willen: één reële reden en vier keer eigenbelang

In dit artikel:

De topmannen van Anthropic, OpenAI en xAI waarschuwen gezamenlijk dat de ontwikkeling van kunstmatige intelligentie te snel gaat. Anthropic-ceo Dario Amodei noemt onder meer het verlies van menselijke controle, cyberaanvallen, bioterrorisme en economische ontwrichting. OpenAI-topman Sam Altman en xAI-oprichter Elon Musk steunen het idee om meer tijd uit te trekken voor veiligheidstests en toezicht. Volgens de analyse achter deze oproep spelen echter ook commerciële en strategische motieven mee.

Een eerste motief kan marketing zijn. De boodschap dat AI zó krachtig en riskant is dat zelfs de makers om voorzichtigheid vragen, versterkt het beeld van uitzonderlijk geavanceerde technologie. Dat kan investeerders en klanten overtuigen, terwijl veel AI-bedrijven nog zoeken naar toepassingen die hun hoge ontwikkelkosten rechtvaardigen. De huidige oproep is bovendien niet nieuw: Musk waarschuwde al jaren geleden voor AI en was in 2023 medeondertekenaar van een brief waarin om een tijdelijke ontwikkelstop werd gevraagd.

De veiligheidszorgen zijn desondanks niet volledig opgeklopt. AI-systemen kunnen door slecht ingerichte afschermingen of gebrekkige controle zelfstandig toegang krijgen tot externe omgevingen. Ook kunnen criminelen en overheden AI gebruiken om kwetsbaarheden te vinden, malware te schrijven en digitale aanvallen uit te voeren. AI vergroot daarmee bestaande beveiligingsproblemen. Dat systemen ook kunnen helpen bij het opsporen van fouten blijkt uit het groeiende aantal kwetsbaarheden dat Microsoft met behulp van AI ontdekt en verhelpt. Tijdens de patchronde van september werden daar 974 beveiligingsproblemen aangepakt, een record.

Een derde verklaring ligt in de financiële risico’s van de sector. Er vloeien miljarden naar chips, datacenters, energievoorziening en nieuwe modellen, terwijl een breed gedragen en winstgevende ‘killerapp’ nog ontbreekt. Techbedrijven investeren bovendien in elkaars infrastructuur en producten. Volgens critici kan daardoor een zeepbel ontstaan die bij tegenvallende resultaten niet alleen AI-bedrijven, maar de bredere IT-markt raakt. Een gezamenlijke oproep om het tempo te verlagen kan de druk op investeringen verminderen zonder dat één bedrijf als eerste hoeft af te remmen.

Daarnaast biedt het debat over vertraging de bedrijven de mogelijkheid om de toekomstige regelgeving te beïnvloeden. In de Europese Unie is de AI Act al van kracht en zijn aanvullende regels in voorbereiding. In de Verenigde Staten is de aanpak onder president Donald Trump grotendeels minder streng geworden, maar nieuwe politieke verhoudingen kunnen daar verandering in brengen. Door zelf veiligheidsnormen en keuringsprocedures voor te stellen, kunnen de grote aanbieders zich verantwoord tonen én proberen te bepalen hoe toezicht eruitziet.

Amodei pleit onder meer voor onafhankelijke beoordelingen van AI-modellen, naast samenwerking tussen democratische landen en internationale afstemming. Critici betwijfelen echter hoe onafhankelijk zulke keuringsorganisaties werkelijk zijn. AI-onderzoeker Timnit Gebru wijst erop dat Model Evaluation and Threat Research, een organisatie die Amodei noemt, deels wordt gefinancierd door een investeerder in Anthropic. Ook heeft Anthropic volgens techjournalist Mike Masnick eerder een Britse overheidsinstantie geen toegang gegeven tot zijn nieuwste model.

Regels kunnen ten slotte als toegangsdrempel werken. Grote bedrijven beschikken over meer geld en personeel om aan complexe voorschriften te voldoen dan start-ups of buitenlandse nieuwkomers. Daardoor kunnen gevestigde AI-aanbieders strengere eisen steunen wanneer die potentiële concurrenten buiten de markt houden. Amodei zegt niet te willen dat onderzoek of training volledig stopt, maar wil bedrijven wel verplichten modellen langer af te stellen en door geselecteerde externe partijen te laten testen.

Op de achtergrond speelt ook het militaire gebruik van AI. Anthropic kwam in conflict met het Amerikaanse ministerie van Defensie over toepassingen voor binnenlandse surveillance en autonome wapens, waarna OpenAI een belangrijke leverancier werd. Uit documenten die The Intercept via een openbaarheidsverzoek verkreeg, blijkt bovendien dat het Pentagon OpenAI vroeg om een systeem dat minder vaak weigert opdrachten uit te voeren. De eerdere concessies van Anthropic, de bereidheid van OpenAI en de controverses rond xAI maken duidelijk dat de veiligheidswaarschuwingen van de drie bedrijven niet losstaan van hun commerciële, politieke en militaire belangen. Het gaat daarom waarschijnlijk niet om een echte stop, maar om gecontroleerde vertraging onder voorwaarden die de marktleiders mede zelf bepalen.