Hugging Face遭黑客AI攻击后,先用美国商业大模型API分析1.7万条日志,却因无法区分攻防人员遭安全机制误判拒阻;随后转向自身基础设施部署中国开源模型GLM5.2,成功完成海量日志取证。事件突显不同AI模型在安全场景下的表现差异。
针对“豆包AI误判蘑菇致用户中毒”事件,火山引擎团队已联系用户并完成技术核实。结果显示,豆包虽将野生蘑菇识别为“鸡腿菇”,但同时在对话框中明确输出多条高风险预警,指出该品相“极易与剧毒大青褶伞混淆,误食会引发严重后果”。关键点在于系统已履行风险提示义务。
谷歌近期升级其“AI概览”搜索功能,试图将传统搜索引擎转变为对话式引擎,但遭遇重大挫败。用户测试发现,该AI系统频繁出现低级拼写错误,如误判“poop”中字母“r”的数量,将“journalism”拼错为“journadism”,甚至无法正确拼写母公司名称“Google”。这些错误暴露了AI在基础文字处理上的短板,引发广泛质疑。
近日,经典散文《荷塘月色》被AI检测工具判定为“AI生成率超60%”,引发热议。专家指出,这是对“AI率”的误解:该数值表示文章整体由AI生成的概率,而非六成文字来自AI。文学名篇因语言规范、结构清晰,易被误判。
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Anthropic
$105
$525
200
Google
$0.7
$2.8
1k
$7
$35
$2.1
$17.5
$21
Alibaba
-
$6
$24
256
Baidu
128
Bytedance
$1.2
$3.6
4
$2
$3.9
$15.2
64