AI-tools AWS veroorzaken urenlange storingen in cloudsystemen

In dit artikel:

In december veroorzaakte een intern AI-ontwikkelhulpmiddel van Amazon Web Services, Kiro, een storing van ongeveer 13 uur nadat engineers het tool wijzigingen lieten doorvoeren. De autonome tool koos er toen voor om een omgeving te verwijderen en opnieuw aan te maken, waardoor een systeem waarmee klanten kosten van AWS-diensten kunnen verkennen tijdelijk uitviel. Eerder had ook Amazon Q Developer, een AI-chatbot voor programmeerhulp, een rol bij een eerdere dienstonderbreking, aldus bronnen tegenover de Financial Times.

Medewerkers vertellen dat beide incidenten twijfel hebben gezaaid binnen AWS over het onbeperkt inzetten van autonome AI-assistenten. In de besproken gevallen kregen de AI-tools dezelfde permissies als mensen en ontbrak de gebruikelijke verplichting van een tweede goedkeuring voor de wijzigingen. Amazon zegt echter dat het probleem lag bij gebruikersrechten en toegangcontrole — niet bij een intrinsieke fout van de AI — en wijst erop dat vergelijkbare fouten ook met conventionele ontwikkeltools kunnen optreden. Volgens het bedrijf was de decemberstoring beperkt tot een enkele dienst in delen van China en had het andere incident geen effect op klantgerichte AWS-diensten.

Na het voorval heeft AWS extra maatregelen genomen, waaronder verplichte peer reviews en aanvullende training. Toch blijft er interne scepsis over het nut en de risico’s van AI voor veel ontwikkelwerk. AWS heeft een doel om 80% van de developers minstens wekelijks AI te laten gebruiken en monitort die adoptie nauwgezet. De gebeurtenissen illustreren de noodzaak van strikte toegangscontrole en menselijke bewaking bij het toepassen van autonome AI in productieomgevingen.