人権団体ヒューマン・ライツ・ウォッチ（HRW）の最新報告によると、いくつかの一般的なAI画像生成器で使用されているトレーニングデータセットに、ブラジルの子どもの写真が許可なく大量に使用されていることが明らかになりました。これは、子どものプライバシーと安全に対する深刻な課題を引き起こしています。

報告書は、HRWの研究者らが大規模な公開データセット「LAION-5B」を分析した結果、10州の少なくとも170枚ものブラジルの子どもの生活写真がリンクされていることを発見したと述べています。これらの写真は、幼児期から思春期までの貴重な瞬間を捉えたもので、ほとんどが親族間で共有された個人ブログや動画からのもので、外部に漏洩する意図はありませんでした。

子ども、幼児

画像出典：画像はAIによって生成され、画像ライセンス提供元はMidjourneyです。

注目すべきは、これらの写真には子どもの名前や場所の情報が含まれていることが多く、身元の特定が容易であることです。これらの画像が悪用されると、いじめやフィッシングなどのリスクにさらされる可能性があります。さらに、AIによる顔の入れ替え技術の発展に伴い、子どもの肖像が不快な露骨な性的コンテンツに生成される可能性も懸念されています。

報告書はいくつかの事例を引用しており、少なくとも85人のブラジル人少女が、クラスメートがAIツールを使って自分の性的動画を偽造し、インターネット上に拡散されたと訴えています。これにより、彼女たちは持続的な精神的苦痛を負っています。HRWは、政府が迅速に対応し、AIシステムによる子どものデータの悪用を防ぐよう求めています。

これを受け、LAIONはHRWなどの機関と協力して、トレーニングデータから子どもの画像にリンクされたURLを削除しました。しかし、報告書は、これは「データセットにおける子どもの個人データの総量を大幅に過小評価している可能性がある」と警告しています。

HRWの研究者は、これらの家族写真は以前はインターネット上で一定の「プライバシー」状態にあり、発見されにくかったと述べています。しかし、現在ではAIによって大量に利用され、以前のプライバシーの境界を超えています。彼女は、子どものプライバシー保護の責任を親に転嫁するのは不公平であり、政府とテクノロジー企業が責任を負い、保護策を策定すべきだと非難しています。

ヒューマン・ライツ・ウォッチは、ブラジル政府に対し、間もなく施行される子どもの権利保護法において、許可なく子どもの個人データを使用してAIシステムをトレーニングすることを明確に禁止し、被害を受けた子どものための責任追及の手段を設けるよう求めています。また、AIシステムへの悪用や不適切なコンテンツの生成を防ぐため、各国が法律レベルで子どものデータ保護を強化すべきだという意見もあります。