Im September 2023 führte der Einsatz von KI-Technologie zu einem Anstieg der Nutzung von Deepfake-Pornografie-Apps auf 24 Millionen Nutzer. Social-Media-Werbung trug zu einem Wachstum von 2400 % bei und löste Besorgnis aus. Mit der Weiterentwicklung der Technologie werden auch normale Menschen zum Ziel, was zu rechtlichen Problemen führt. Einige Plattformen wie TikTok und Meta Platforms haben bereits Maßnahmen ergriffen, wie z. B. das Blockieren von Schlüsselwörtern.