小红书新规要求AI生成内容必须强制标识，否则将限流。平台将自动识别并标注相关内容，旨在打击仿冒公众人物、制造虚假视频等乱象，维护网络空间清朗。
小红书新规要求创作者必须主动标识AI生成内容，以应对技术滥用乱象，如仿冒公众人物、制作虚假视频等，防止误导观众、损害社区信任。
AI视频生成技术飞速发展，但主流AI聊天机器人却难以识别深度伪造内容。研究显示，面对OpenAI自家Sora生成的虚假视频，ChatGPT识别错误率高达92.5%，暴露了AI在内容真实性判断上的严重短板。
成都一男子利用AI技术制作并发布抹黑地标的低俗视频，已被行政拘留。警方通报称，该男子为博取网络关注和流量，故意编造虚假内容，其行为已违反相关法律法规。
AI时代的简单创意授权平台
VerificAudio是PRISA Media的人工智能工具，用于打击音频内容中的虚假信息（deep fakes）
Openai
$2.8
Input tokens/M
$11.2
Output tokens/M
1k
Context Length
Google
$0.7
Anthropic
$21
$105
200
Alibaba
$1
$10
256
-
$15.8
$12.7
64
Bytedance
$54
$163
Tencent
$1.6
$4
128
$8.75
$70
400
$1.75
$14
$15
Huawei
32
Chatglm
$8
$16
prithivMLmods
GA Guard系列是开源权重的审核模型，旨在帮助开发者和组织维护语言模型的安全性、合规性以及与现实世界的一致性。该模型可检测七种违规类别，包括非法活动、仇恨与辱骂、个人身份信息与知识产权、提示安全、色情内容、虚假信息以及暴力与自残。
dhruvpal
这是一个基于DistilBERT的虚假新闻检测模型，能够根据文本内容将新闻文章分类为真实或虚假。
JKKANG
用于检测韩语新闻真实性的分类模型，可识别虚假或误导性内容
PirateXX
这是一个运用先进模型来检测文本内容是否由AI生成的工具。它能区分真实内容（Label_1）和AI生成的虚假内容（Label_0），旨在帮助用户识别信息的来源和可信度。
TransformersEnglish%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
