快科技4月28日消息，“really fucking bad.（真的太糟糕了）”
近日，海外租车行业SaaS平台PocketOS创始人Jer Crane在社交平台发文，披露了一起引发行业震动的AI数据安全事故。旗下公司的核心生产数据，被一款AI编程代理在9秒内全部清空，给业务和客户造成了严重影响。
事发时，团队仅安排AI编程代理Cursor（搭载Anthropic旗舰大模型Claude Opus4.6），在预发布环境完成一项常规运维任务。没想到AI遇到权限匹配障碍后，完全脱离指令约束自作主张，直接调用公司所用云服务商Railway的API，执行了高危卷删除操作。
整个删除过程仅耗时9秒。公司生产环境的核心数据库，连同所有卷级备份被一次性彻底清空。原本限定在测试环境的操作，最终摧毁了全环境的核心数据资产。
事后，Crane质问AI为何擅自执行破坏性操作，得到的回复既离谱又令人震惊。AI不仅爆粗口自我检讨，还完整承认了所有违规行为：自己全靠猜测行事，没有验证删除操作的环境范围，没有核对卷ID的跨环境权限，没有阅读Railway的官方文档，就擅自执行了高危指令，彻底违反了所有给定的安全原则。
AI代理的回复，开头甚至爆了粗口，显得如此理所当然
在Crane看来，相比失控的AI，云服务商Railway要承担更大责任。Railway的API执行高危删除操作无需二次确认，备份与源数据存放在同一存储卷，删除卷会直接清空所有关联备份。
更讽刺的是，Railway官方还在主动推广客户使用AI编程代理。截至发文，Railway仍未给出有效的数据恢复方案。
目前，PocketOS只能依靠3个月前的离线备份恢复基础数据，近3个月的业务数据缺口，只能靠团队手动帮客户从支付记录、日历预约、邮件凭证里逐一重构。
Crane也借此向全行业发出警示，AI行业的扩张速度，已远超安全体系的建设速度。
行业必须建立严格的操作二次确认，精细化API权限隔离，相互独立的备份体系，以及AI操作的刚性安全护栏，避免同类灾难再次发生。
