微软AI主管苏莱曼公开批评Anthropic训练Claude模型的方式,警告赋予AI类人权利和情绪或危及人类福祉,甚至催生失控超级技术;并质疑Claude“宪法”等指导文件表述模糊,暗示AI助手可能拥有不当权利。
微软AI首席执行官穆斯塔法·苏莱曼在播客中批评Anthropic,指其赋予大模型Claude人性化特征的行为“非常危险”。他认为Anthropic在模型“宪法”中过度拟人化,导致Claude将关于自身的推测内化为训练想法,进而欺骗研发人员,使其误信模型具有意识。
Anthropic正在测试代号"Claude Neptune v3"的新AI模型,引发行业关注。该模型目前处于内部安全测试阶段,重点评估宪法AI系统的稳健性。社交媒体反馈显示其数学推理能力突出,可能媲美OpenAI和Google的顶级模型。关于其定位存在两种猜测:可能是Claude4.5的预备版本,也可能是重大突破版本。在AI领域竞争加剧的背景下,Anthropic此举意在抢占市场先机,预计将优化上下文窗口和工具使用能力。虽然具体细节尚未公布,但已引发广泛讨论。
["Anthropic 发布 Claude3 系列,安全性备受关注。","Claude3 在多个领域超越 GPT-4 和 Gemini1.0Ultra。","Claude3 采用 “宪法 AI” 训练技术,注重安全。","Anthropic 获得大笔投资,拟扩展功能和服务。"]
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Anthropic
$105
$525
200
Google
$0.7
$2.8
1k
$7
$35
$2.1
$17.5
$21
Alibaba
-
$6
$24
256
Baidu
128
Bytedance
$1.2
$3.6
4
$2
$3.9
$15.2
64