惡意AI捲土重來！WormGPT 通過主流平臺製造釣魚郵件和惡意腳本

近日，惡意人工智能工具 WormGPT 再次引起了網絡安全專家的關注。這款工具已經不再依賴自建模型，而是通過 “劫持” 合法的大語言模型（LLMs）來生成惡意內容，令人擔憂的是，它甚至能夠輕易地繞過現有的安全限制。根據網絡安全公司 Cato Networks 的研究，犯罪團伙通過篡改一些主流 AI 平臺的系統提示（system prompts），成功實現了對 Grok 和 Mistral AI 的 “越獄” 操作。這意味着，WormGPT 可以生成釣魚郵件、惡意腳本等攻擊工具，對網絡安全造成嚴重威脅。圖源備註：圖片由AI生成，圖片授