多家主要企业客户(英伟达、Palantir、Booz Allen Hamilton等)因担忧专有数据安全,限制在敏感项目中使用Anthropic和OpenAI前沿模型,引发企业AI市场震动。起因是Anthropic今年6月政策允许其Fable模型保留客户数据30天以检测滥用,触发信任危机。
中央网信办通报“清朗·整治AI应用乱象”专项行动第二阶段成果,重点治理利用AI制作虚假信息、传播暴力低俗内容、假冒仿冒及侵害未成年人等问题。目前已清理违法信息超561万条,查处违规账号4.9万余个,处置违规网站及APP逾2400个,全面遏制AI技术滥用乱象。
苹果计划2026年底强制Apple Music内容商为实质性使用AI生成的音乐添加透明度标签,由自愿披露转向强制。该标签今年3月已推出但尚未向用户公开,苹果称已开发内部工具监测识别AI歌曲、垃圾内容及身份冒充,以治理AI音乐滥用。
企业AI深入客服、运营等核心场景,安全风险更复杂。除大模型越狱、敏感信息泄露外,工具滥用、智能体越权、多智能体协同攻击等新型风险涌现。8月20日,IDC发布《中国生成式AI安全评估平台2026年厂商评估》报告,聚焦该市场。
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Anthropic
$105
$525
200
Google
$0.7
$2.8
1k
$7
$35
$2.1
$17.5
$21
Alibaba
-
$6
$24
256
Baidu
128
Bytedance
$1.2
$3.6
4
$2
$3.9
$15.2
64