Amazon gaat stren­gere controles invoeren op softwa­re­wij­zi­gingen die met behulp van vibe coding tot stand komen. Voortaan moeten senior engineers expli­ciet goedkeu­ring geven voordat AI-onder­steunde codewij­zi­gingen in productie mogen worden doorge­voerd. De maatregel volgt op een reeks recente storingen binnen de systemen van het bedrijf. Dat meldt Ars Technica.

Amazon heeft naar verluidt de afgelopen maanden meerdere incidenten meege­maakt die verband hielden met softwa­re­wij­zi­gingen waarbij AI-tools waren ingezet. Die incidenten zouden soms een grote impact hebben gehad op de beschik­baar­heid van diensten.

Storingen met impact

Een van de incidenten betrof een foutieve software-update waardoor de website en app van Amazon gedurende ongeveer zes uur niet goed functi­o­neerden. Klanten konden onder meer geen bestel­lingen afronden en hadden problemen met het bekijken van prijzen of accountgegevens.

Intern wordt gesproken van storingen met een “high blast radius”, wat betekent dat één fout grote delen van de infra­struc­tuur kan raken. In interne notities wordt naar verluidt het gebruik van genera­tieve AI bij codewij­zi­gingen genoemd als een van de factoren die bij sommige incidenten een rol hebben gespeeld. Daarbij wordt opgemerkt dat voor dit soort AI-toepas­singen nog niet altijd duide­lijke best practices of bevei­li­gings­maat­re­gelen bestaan.

Nieuwe controlelaag voor AI-code

Om het risico te verkleinen heeft Amazon besloten dat junior en mid-level engineers geen AI-onder­steunde code meer recht­streeks kunnen imple­men­teren. In plaats daarvan moet een senior engineer eerst de wijzi­ging beoor­delen en goedkeuren voordat deze in productie gaat.

De maatregel kwam volgens Ars Technica naar voren tijdens een interne bijeen­komst van Amazon’s retail-techno­lo­gie­teams, waarin engineers een “deep dive” deden in recente incidenten en mogelijke verbe­ter­maat­re­gelen. Het bedrijf wil met derge­lijke stappen de betrouw­baar­heid van zijn platforms verhogen en herha­ling van storingen voorkomen.

AI-tools steeds vaker onderdeel van development

Het gebruik van AI-tools om code te genereren of aan te passen neemt binnen de software-ontwik­ke­ling snel toe. Ook Amazon stimu­leert engineers om gebruik te maken van derge­lijke hulpmid­delen, bijvoor­beeld om sneller code te schrijven of repeti­tieve taken te automatiseren.

Maar die snelheid brengt dus ook nieuwe risico’s met zich mee. In een eerder incident binnen Amazon Web Services leidde een door een AI-tool gemaakte wijzi­ging tot een langdu­rige storing van een kosten­re­ken­mo­dule voor cloud­ge­brui­kers. Daarbij verwij­derde het systeem per ongeluk een volle­dige omgeving en bouwde die opnieuw op, wat tot een onder­bre­king van ongeveer dertien uur leidde.

Balans nodig tussen snelheid en stabiliteit

Binnen Amazon lijkt het huidige beleid vooral bedoeld om een balans te vinden tussen de produc­ti­vi­teits­winst van AI-gebaseerde ontwik­ke­ling en de noodzaak om kritieke systemen stabiel te houden.

Door een extra review­laag toe te voegen probeert het bedrijf mense­lijke controle te behouden over software die met behulp van AI wordt gegene­reerd of aange­past. Tegelijk blijft het gebruik van AI-tools onder­deel van de ontwik­kel­stra­tegie van het bedrijf.

Amazon zelf benadrukt volgens de Finan­cial Times. dat het evalu­eren van incidenten en het aanpassen van processen een normaal onder­deel is van het verbe­teren van de betrouw­baar­heid van zijn diensten.

Als genera­tieve AI een steeds grotere rol krijgt in softwa­re­ont­wik­ke­ling, lijkt de vraag hoe bedrijven controle en kwali­teits­be­wa­king organi­seren daarmee een steeds belang­rijker onder­werp te worden binnen grote technologieorganisaties.