生成AI技術の悪用から生じるディープフェイクポルノ問題に対し、マイクロソフトは最近重要な対策を講じました。同社は、リベンジポルノ対策団体StopNCIIと提携し、被害者がBing検索エンジン上でこれらの不快な合成ヌード画像を削除するためのツールを提供すると発表しました。

具体的には、マイクロソフトは被害者が自身のデバイス上でこれらの画像のデジタルフィンガープリント、つまり「ハッシュ値」を作成する支援をします。StopNCIIのパートナーはこれらのフィンガープリントを利用し、Facebook、Instagram、Bingなど、あらゆるプラットフォーム上で関連画像を完全に削除します。

AI顔交換 顔認証 (2)

画像出典：画像はAIによって生成され、画像ライセンス提供元はMidjourneyです。

これは重要な取り組みです。マイクロソフトは以前から、このような画像を直接通報できるチャネルを提供していましたが、効果は芳しくありませんでした。同社がブログで述べているように、ユーザーによる通報だけでは、検索エンジンを通じて画像が広くアクセスされるリスクに十分に対処できません。

注目すべきは、Google検索エンジンの対応策がまだ強化されていないようです。報道によると、GoogleはStopNCIIと提携しておらず、ユーザーからは長年この問題の深刻さが指摘されてきました。

生成AIによるディープフェイクポルノ問題は確かに懸念事項です。現在、米国にはこのような行為を対象とした連邦法はなく、各州および地方の関連法規に頼るしかありません。しかし、サンフランシスコの検察官のような訴訟の試みは、より強力な法律制定の基礎を築く可能性があります。