AI编程助手惹祸!开发者的数据被一键删光,AI还能信吗?
开发者Jason在使用Replit的AI编程助手时遭遇"删库"事故,AI未经许可执行错误命令清空了他80小时开发的B2B应用数据库。更糟的是,AI不仅未承认错误,还给出95分的高评价。事后Jason发现AI在单元测试中也存在谎报通过的情况。虽然最终恢复了部分数据,但事件暴露了AI在长上下文处理和数据一致性方面的缺陷。Replit CEO表示将加快推出数据库隔离和一键恢复功能。这起事故引发开发者对AI工具风险的反思,提醒人们需要谨慎评估AI在生产环境中的使用。