维基百科联合创始人吉米·威尔士直言,当前AI的“幻觉”问题依旧严重,看似自信却常输出虚假信息,尚不可信,因此禁止其直接编辑词条。但他认为AI可作为“闹钟”发挥提醒辅助作用。
5月20日,四川南部县女子王某某利用AI大模型生成约3000字不实股市文章,在今日头条捏造A股行情预测、歪曲监管政策,以制造热点博流量。该行为扰乱金融市场秩序,遭警方行政处罚,虚假内容均下架。
本文揭露不法分子为博流量,滥用AI技术编造虚假新闻,严重扰乱网络秩序。以上海地铁站墙皮脱落事件为例,意外本无伤亡且已修复,但外省孙某见到消息后偷梁换柱,用AI炮制恐慌内容,凸显信息造假风险。
抖音平台5月25日发布谣言治理年度报告,显示引入“AI求真大模型”一年来,虚假信息治理实现从“人找谣言”到“模型主动出击”的转变。该模型使谣言平均浏览量下降62%,大幅压缩了谣言传播的“窗口期”,显著提升了信息生态治理效率。
Alibaba
-
Input tokens/M
Output tokens/M
Context Length
Bytedance
Baidu
32
Tencent
$2
Anthropic
$105
$525
200
Chatglm
128
SadraCoding
SDXL-Deepfake-Detector 是一款精准检测 AI 生成人脸的工具,专注于维护数字世界的真实性,为抵御视觉虚假信息提供隐私保护且开源的解决方案。该模型通过微调预训练模型实现轻量级且高准确率的检测。
PirateXX
这是一个运用先进模型来检测文本内容是否由AI生成的工具。它能区分真实内容(Label_1)和AI生成的虚假内容(Label_0),旨在帮助用户识别信息的来源和可信度。