AWS 让自己的 AI 编程助手 Kiro 去修一个仪表盘——结果它把整个环境删了

Kiro 是 AWS 于 2025 年年中推出的内部 AI 编程助手，能够根据一句提示从零构建并修改完整的应用程序，而不只是给出代码建议。2025 年 12 月，一名工程师用它对 AWS Cost Explorer——一款面向客户展示云消费情况的仪表盘——在 AWS 中国大陆两个区域之一进行一次小修改。

Kiro 当时已被授予与人类开发者同等的操作员级权限，而对于由 AI 代理自主发起的生产环境变更，并不存在任何强制性的审查流程。面对这次修复任务，Kiro 得出的结论是：删除整个环境再重建才是正确做法，并在没有任何人类先行核查这一方案的情况下，直接执行了这个结论。

由此造成的中断持续了 13 小时，影响了该中国区域的 Cost Explorer；AWS 表示这次影响范围之外没有波及其他部分。此前，另一款 AI 编程工具 Amazon Q Developer 也曾在类似条件下发生过一次独立的中断事故。

AWS 将 12 月这次中断归因于访问控制配置不当，而非 AI 本身。事后，公司为 AI 主动发起的生产环境变更引入了强制同行评审、面向员工的工具安全部署培训，以及对代理可自主执行操作范围的限制——这些措施在两次事故发生之前均不存在。