近期，中央网信办组织开展“清朗·整治 AI 应用乱象”专项行动第二阶段工作，聚焦利用 AI 制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门深入推进重点整治任务。
截至目前，专项行动累计清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置违规网站、应用程序等 2400 余个。
平台与厂商同步收紧内容治理
网站平台在此期间持续健全 AI 内容常态化治理机制。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等措施，累计发布各类治理公告 46 期。豆包、元宝、千问、文心一言等平台严把原始语料审核关，严格限制违规内容输出，并强化 AI 生成合成内容标识要求落地。华为、小米、OPPO、vivo 等应用商店则制定了更严格的开发者准入规范和上架要求，对在架 APP 进行抽检复测。
七类典型案例被通报
专项行动期间共通报七类典型案例。一是滥用 AI“魔改”《三国演义》《西游记》等经典名著，颠覆重要人物人设、虚构低质猎奇剧情博取流量的“数字泔水”内容，涉及微博、抖音、快手、微信多个账号。二是利用 AI 生成虚假灾害现场、救援画面，编造不实社会热点、发布封建迷信内容，或用 AI 数字人虚假宣传带货误导老年人。三是利用 AI“换脸”“换声”假冒仿冒公众人物，生成低俗舞蹈、拥抱接吻等图片视频借机牟利。四是批量发布含恐怖诡异、暴力低俗画面的 AI 生成内容。五是发布 AI 生成的未成年人怀孕、打架等不符年龄特征内容，批量制作传播“毒动画”、儿童“虐向”“邪典”视频。六是为 AI“托管”软件引流，模拟真人运营账号、评论互动，生成大量低质同质文案从事网络水军活动。七是部分网站平台的智能体封面、简介和生成对话中含有淫秽色情及危害未成年人身心健康的信息。
上述相关账号均已被依法依约处置；对拒不改正的网站平台，将按程序采取警告、罚款、下架或关闭等措施。网信部门表示，下一步将继续密切关注 AI 生成合成内容的新情况新风险，及时采取有效措施防范 AI 技术滥用恶用。
