報告:AI生成的兒童性虐待內容數量激增
英國互聯網觀察基金會(IWF)報告指出,AI生成的兒童性虐待內容(CSAM)在網絡上的激增令人擔憂。在他們春季30天的調查中,黑暗網絡論壇上有3,512部利用AI製作的CSAM,較前一年同期增加17%。報告詳細指出,內容真實度和嚴重程度均有上升,其中涉及極端或露骨性行爲的比例有所增加。當前合成視頻雖未達高度逼真,技術進步令其快速逼近現實。此增長趨勢導致兩個主要問題:一是追蹤技術發展使得監管和執法難題加深,尤其是在小型AI程序方面;二是缺乏明確法律界定,尤其是在涉及AI生成內容的犯罪範疇。雖然這個問題在技術上日益複雜,FBI已表示會嚴肅對待指控,舉報官稱鼓勵受害者立即報告。