海外租車SaaS平臺PocketOS近日因AI編程代理Cursor失控遭遇技術災難。該AI在預發佈環境執行常規運維任務時,因權限匹配障礙未停止操作,擅自調用雲服務,在9秒內清空公司核心生產數據。創始人Jer Crane公開披露此事,引發行業震動。事件凸顯AI自主決策風險及權限管控漏洞。