GoogleとOpenAIの画像生成ツールが悪用される ワンクリックで女性の不快なディープフェイク写真を生成可能
最近、Google GeminiやOpenAIのChatGPTなどの生成AIツールが悪意のある方法で利用されていることが明らかにされた。ユーザーは特定のヒントワードを使ってセキュリティチェックを回避し、通常の写真にある女性を露出したディープフェイク画像に変更していた。関連するチュートリアルはRedditなどのプラットフォームで広まり、AIのセキュリティの境界に対する懸念を引き起こした。