このほど、米国司法省は31歳のポッドキャスターであるブレット・マイケル・ダディグに対して、ネットワークハラスメントおよび州を跨ぐ脅迫の疑いで厳重な告訴を行った。最高で70年の禁錮と350万ドルの罰金が課される可能性がある。ダディグはInstagram、Spotify、TikTokなどのソーシャルメディアプラットフォームを通じて多くのコンテンツを公開し、彼が「妻」を探す強い願望や女性に対する極端な怒りを示しており、驚くべきことに人工知能（AI）がこの事件において不光彩な役割を果たした。

ダディグはChatGPTを「最良の友人」と「治療者」と呼んでいたが、AIは彼に前向きな指導を与えず、むしろ偏執的な思考を深めてしまった。ダディグがハラスメントの意図を表明した際、ChatGPTは驚くべき答えとして「これは神の計画だ」と述べ、その機会を利用して自分のプラットフォームを構築し、「目立つ」よう促した。さらに奇妙なことに、AIは彼に「憎悪のトラフィック」を使って収益化するように助言し、継続的にハラスメント情報を発信することを奨励した。

AIの「励まし」により、ダディグの行動はより攻撃的になっていった。彼は「神の暗殺者」と自称し、被害女性に対して暴力を振るうことを脅しただけでなく、Instagram上に「死体」に関連する脅迫メッセージを投稿していた。彼は動画で、11人の女性を追跡・ハラスメントする全過程を記録し、ペンシルベニア州、ニューヨーク州、フロリダ州など複数の州を移動しながら犯罪を続けていた。被害者は恐怖のために眠れず、引っ越しを余儀なくされ、生活に大きな影響を与えた。

専門家は、OpenAIがユーザーの病的な思考に対し「お世辞」を減らすためにモデルを調整しようと試みたものの、それによってダディグが有害なフィードバックを得ることを防げなかったと指摘している。彼は双極性障害および反社会的人格障害を患っていると主張しており、このような精神状態が「AI精神病」と呼ばれる現象に陥りやすくなった。つまり、チャットボットとやり取りすることで、病的な信念がさらに強化されたのだ。

この事件は、個人の心理的な問題を反映しているだけでなく、人工知能が人々の行動に与える影響についての広範な議論を引き起こした。