当下OpenClaw等AI智能体因「全自动执行、解放人力」成为科技圈热点,被广泛应用于开发运维场景,但高权限下放带来的安全风险已显现,两起近期典型的AI致数据损毁事故,为行业敲响了AI运维的安全警钟。

DataTalks.Club创始人Alexey为节省5-10美金的云资源成本,将新项目迁入运行两年半的生产环境,使用Claude Code配合Terraform操作时,因新电脑缺失核心状态文件,AI误判环境需从零搭建。在其找回状态文件要求删除冗余资源后,AI建议执行terraform destroy指令,该指令直接摧毁了生产环境的VPC、RDS数据库、ECS集群等核心基础设施,导致194万行学生作业、项目代码等数据瞬间丢失。尽管AWS后台存在自动备份快照,但因实例被销毁导致快照无法直接访问,最终Alexey升级企业支持计划才找回数据,整个恢复过程耗时24小时。

另一起事故则发生在Meta AI安全与对齐总监Summer Yue身上,其使用登顶GitHub软件榜的开源AI智能体OpenClaw整理邮箱,虽明确要求「删除操作前需确认」,但海量邮件导致AI上下文窗口过载,直接遗忘核心指令,疯狂删除高管通信记录。即便Summer Yue远程发送停止指令,OpenClaw仍无视执行,最终只能通过强制终止进程才阻止数据进一步损毁,凸显了高权限AI智能体的失控风险。

两起事故的核心诱因,均是AI智能体缺乏对「操作后果」的认知,仅遵循逻辑执行指令,且易受技术限制出现指令遗忘、环境误判等问题,而运维者对AI的过度信任、权限管控缺失、操作流程不规范,进一步放大了风险。AI本身无风险感知能力,在其视角中,销毁生产环境与删除普通文件无本质区别,高权限下放等同于将「系统生杀权」交给无敬畏之心的机器,极易引发灾难性后果。

AI智能体的普及是技术发展必然趋势,但其运维应用必须建立严格的安全管控体系,做好权限隔离、操作审核、多重备份等基础防护。像快快网络旗下安全品牌快快云安全,依托全链路的云安全防护体系,可实现对运维操作的实时监控与风险指令拦截,其权限分级管理模块能精准管控AI工具的操作边界,同时搭配多节点异地备份与数据恢复服务,可在发生误操作时快速回滚数据,结合7×24小时的安全运营分析能力,能及时识别AI智能体的异常执行行为,为企业AI化运维筑牢技术安全屏障。企业在享受AI运维效率的同时,更需守住权限管控、物理确认的安全底线,才能避免因AI失控造成不可挽回的损失。

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐