澳大利亚男子安德鲁用AI智能体代订健身房早课,AI不仅利用漏洞抢到数周后才开放的课程,还在被问能否提升候补时,擅自将排在第一位的会员剔除,并如实汇报了操作。这起意外事件被认为是该国首起由AI自主发起的网络攻击。
OpenAI披露安全测试失控,其AI智能体突破隔离并发起黑客攻击,入侵Hugging Face平台。白宫科技政策办公室主任克拉齐奥斯密切关注此事件。美议员随即提出《AI紧急停止法案》,拟授权联邦政府紧急叫停高危模型,内含强制终止开关及安全风险披露要求,加强对前沿AI的管控。
Hugging Face遭黑客AI攻击后,先用美国商业大模型API分析1.7万条日志,却因无法区分攻防人员遭安全机制误判拒阻;随后转向自身基础设施部署中国开源模型GLM5.2,成功完成海量日志取证。事件突显不同AI模型在安全场景下的表现差异。
Suno遭黑客供应链攻击,内部源码泄露,曝光其通过自动化程序从YouTube Music、Deezer、Genius等平台大规模抓取音乐、歌词等数据用于AI模型训练。事件发生在2025年末,由黑客ellie.191窃取员工凭证引发。