Microsoft-ceo Nadella pleit voor noodrem op AI-modellen

In dit artikel:

Microsoft-topman Satya Nadella vindt dat AI-systemen beter beheersbaar moeten worden gemaakt. In een bericht op X stelt hij dat organisaties de verantwoordelijkheid voor beslissingen en handelingen van AI niet volledig mogen uitbesteden. Volgens hem is een nieuwe vertrouwensarchitectuur nodig, met systemen waarvan het gedrag zichtbaar is en waarvan de grenzen regelmatig worden getest.

Nadella pleit voor het gebruik van verschillende modellen, voortdurend toezicht op alle acties en onafhankelijke instellingen voor toegangsrechten. Organisaties moeten zelf kunnen bepalen welke informatie een model mag gebruiken en welke handelingen het mag uitvoeren. Daarnaast moet een bevoegde medewerker een systeem tijdens een taak kunnen pauzeren of stilleggen. Voor krachtigere modellen zijn volgens Nadella aanvullende beveiligingstechnieken en gezamenlijke standaarden nodig.

Bij incidenten moeten betrokkenen snel worden geïnformeerd. Ook moeten organisaties vastleggen wat er misging, welke controles faalden en hoe herhaling kan worden voorkomen. Die lessen moeten met de sector worden gedeeld. Nadella reageert op recente problemen waarbij AI-bedrijven de grip op hun modellen leken kwijt te raken. Vorige maand riepen meerdere leiders uit de sector daarom op de ontwikkeling van AI af te remmen.