恶意AI卷土重来！WormGPT 通过主流平台制造钓鱼邮件和恶意脚本

近日，恶意人工智能工具 WormGPT 再次引起了网络安全专家的关注。这款工具已经不再依赖自建模型，而是通过 “劫持” 合法的大语言模型（LLMs）来生成恶意内容，令人担忧的是，它甚至能够轻易地绕过现有的安全限制。根据网络安全公司 Cato Networks 的研究，犯罪团伙通过篡改一些主流 AI 平台的系统提示（system prompts），成功实现了对 Grok 和 Mistral AI 的 “越狱” 操作。这意味着，WormGPT 可以生成钓鱼邮件、恶意脚本等攻击工具，对网络安全造成严重威胁。图源备注：图片由AI生成，图片授