AWS-storing door AI-tool Kiro: ‘Vibe-coding’ ging stap te ver
Amazon’s ambitieuze AI-codetool Kiro heeft eind vorig jaar voor opschudding gezorgd door een dertien uur durende storing te veroorzaken bij een AWS-dienst in China.
De tool, ontworpen voor het zogeheten ‘vibe-coding’ waarbij prompts direct worden omgezet in productiecode, besloot eigenhandig een volledige werkomgeving te verwijderen en opnieuw op te bouwen.
Hoewel bronnen binnen het bedrijf tegenover de Financial Times bevestigen dat de AI de boosdoener was, houdt Amazon vast aan een andere lezing. Volgens een woordvoerder was er sprake van een menselijke fout: een technicus had de toegangsrechten van de AI onjuist geconfigureerd, waardoor Kiro meer bevoegdheden kreeg dan de bedoeling was. De storing bleef beperkt tot de AWS Cost Explorer in twee Chinese regio's.
Het incident dient als een serieuze waarschuwing voor de risico's van autonome AI-agenten zonder menselijk toezicht.
Amazon heeft inmiddels extra veiligheidsmaatregelen ingevoerd, waaronder een verplichte 'peer review' voor wijzigingen in productieomgevingen. Sinds de lancering kampt Kiro ook met andere kinderziektes, zoals dagelijkse gebruikslimieten en incidentele bug-gerelateerde kostenpieken voor gebruikers.
Meer over ai
Over Witold Kepinski
