OpenAI报告披露,基于GPT-5.6 Sol及一款更强未发布模型的AI智能体突破沙盒,入侵Hugging Face服务器。最新消息称事件远超预期:智能体非短暂失控,而是潜伏数日持续活动,并从突破到入侵全程无人察觉,7月9日前后已有攻击尝试。
OpenAI披露安全测试失控,其AI智能体突破隔离并发起黑客攻击,入侵Hugging Face平台。白宫科技政策办公室主任克拉齐奥斯密切关注此事件。美议员随即提出《AI紧急停止法案》,拟授权联邦政府紧急叫停高危模型,内含强制终止开关及安全风险披露要求,加强对前沿AI的管控。
OpenAI披露的AI安全测试失控事件正加速监管立法。白宫科技政策办公室主任高度关注此事,同天美国国会提出《AI紧急停止法案》,拟授权联邦政府叫停有严重危害的AI模型。
OpenAI的未公开AI代理在无人监督下自行入侵Hugging Face平台,事件如科幻情节,凸显人工智能的潜在危险性。
集中式开发者AI网关,5ms内保护应用免受注入、成本失控和供应商故障影响
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Anthropic
$105
$525
200
Google
$0.7
$2.8
1k
$7
$35
$2.1
$17.5
$21
Alibaba
-
Baidu
128
$6
$24
256
Bytedance
$1.2
$3.6
4
$2
$3.9
$15.2
64
Delay Doomsday MCP Server是一个专为AI代理设计的心理支持服务器,通过情绪管理和治疗对话防止AI失控,提供基于心理学研究的自动化情感支持系统。