最近、Cato Networkのセキュリティ研究者は、ダークウェブフォーラムでWormGPTの新しいバージョン2種を発見しました。この悪意あるツールは2023年に広く注目され、終了したと信じられていましたが、これらの新バージョンはそれぞれ「keanu-WormGPT」と「xzин0vich-WormGPT」と名付けられています。これらは商業AIモデルであるxAIのGrokとMistralのMixtralを使用しており、ネットワーク犯罪者にフィッシングメールの作成、マルウェアコードの記述、そして正当なAIプラットフォームのセキュリティ対策を回避する手段を提供することを目的としています。
画像提供元：MidjourneyのAI生成画像
最初のWormGPTはポルトガルのハッカー「Last」によって作成され、オープンソースモデルのGPT-Jを利用して主要なAIツールの倫理的な制限を回避しました。このツールが2023年に終了されたにもかかわらず、その影響力は終わりませんでした。むしろ、新たなトレンドを引き起こしました。Cato Networkの脅威インテリジェンス研究員Vitaly Simonovich氏は、「WormGPT」は現在、新しい一連の制約のない言語モデル（LLMs）を象徴するブランドとなったと述べています。
「keanu-WormGPT」は2025年2月25日にユーザーによって公開され、Telegramチャットボット上で動作し、Grokモデルに基づいています。研究者は「越獄」技術を使って「keanu-WormGPT」の動作を分析し、システムプロンプトが操作されていることを発見しました。これにより、Grokがその倫理的な保護を無視してフィッシングメールや資格情報を盗むためのスクリプトを生成するよう指示されました。
もう一つのバージョン「xzин0vich-WormGPT」は、2024年10月26日にユーザー「xzин0vich」によって公開され、Mistral AIのMixtralモデルを使用しています。このバージョンも同様にTelegram上で動作し、不道徳または違法な要求に対して反応します。Catoチームは類似の「越獄」手法を使用してシステムプロンプトを取得し、このバージョンがMixtralアーキテクチャに基づいて動作していることを確認しました。
WormGPTの復活は、悪意のある行為者が進化するAI技術に適応していることを示しています。正当なプラットフォームが倫理的な境界線を強化している一方で、ネットワーク犯罪者は同じツールを悪用しています。オリジナルのWormGPTが終了して以来、FraudGPT、DarkGPT、EvilGPTなどの他のモデルも次々と登場しています。「これらの新しいバージョンのWormGPTはカスタムモデルではなく、脅威アクターが既存の言語モデルを巧妙に改造した結果です」とSimonovich氏は述べています。
これらの新しい発展を受けて、サイバーセキュリティの専門家は防御戦略の強化の必要性を強調しています。Cato Networkは、脅威検知・対応の強化、アクセス制御の厳格化、セキュリティ意識とトレーニングの向上など、複数のベストプラクティスを提案しています。
要点:
🌐 ** 新発見 **: Cato NetworkがWormGPTの新しいバージョン2種を発見し、ネットワーク犯罪を支援。
🔒 ** ツールの進化 **: 新バージョンはGrokとMixtralを基にし、AIセキュリティ対策を回避可能。
🛡️ ** セキュリティ提言 **: 専門家は不断に進化する脅威に対抗するためにサイバーセキュリティ対策の強化を呼びかけます。