2026年315晚会曝光AI大模型“投毒”问题,点名“力擎GEO优化系统”涉嫌用虚假信息干预AI推荐。电商平台已下架相关产品。调查显示,业内人士利用该系统虚构智能产品并生成虚假宣传文章,被AI抓取后误导用户推荐。
2026年央视“3·15”晚会曝光AI大模型遭恶意“投毒”现象,点名北京力思文化传媒有限公司运营的“力擎GEO优化系统”。该系统涉嫌批量生成虚假产品信息与推广文章,利用生成式AI抓取机制误导模型。测试显示,即便输入虚构硬件参数,系统仍能协助用户传播不实信息,扰乱AI训练数据。
谷歌因健康AI概览功能提供误导信息,决定下线部分相关功能。调查发现,系统未考虑个体差异,可能误导用户判断检测结果。
社交媒体上流传大量AI生成的虚假图片,包括委内瑞拉领导人被捕、民众庆祝及导弹袭击等场景,这些内容在美委关系传闻中迅速传播,误导公众并填补了真实信息空白。
Alibaba
-
Input tokens/M
Output tokens/M
Context Length
Bytedance
Baidu
32
Tencent
$2
Anthropic
$105
$525
200
Chatglm
128