OpenAI、Anthropic、谷歌和Meta等头部AI公司的1134名员工联名公开信,呼吁美国政府支持国际合作,开发技术与治理工具,必要时对AI发展“有意识地把控节奏”。该倡议名为“把控前沿”,罕见获OpenAI CEO奥特曼公开支持,Anthropic CEO及联合创始人也参与签署,凸显业界对有序推动AI安全的紧迫共识。
据《商业内幕》报道,OpenAI、Anthropic等公司1100多名员工联署“把控前沿”公开信,呼吁美国政府管控AI发展速度。他们指出,AI军备竞赛下安全保障与治理体系严重滞后。信聚焦“自动化AI开发”,即AI能递归式自我改进。Anthropic称其Claude模型正接近该门槛。
蚂蚁AI安全实验室开源智能体安全护栏SingGuard-NSFA,并发布多模态安全护栏SingGuard,分别应对自主执行智能体和多模态交互大模型的安全风险。此举标志着蚂蚁在AI安全领域完成系统化布局,推动防护从模型输出延伸至行为控制、权限管理和系统治理。
智谱创始人唐杰发内部信,宣布启动“摸高”计划,未来两年将战略投入长程任务、自治智能体系统、完全自我训练及极致安全治理四大核心引擎,全力冲击下一代通用人工智能(AGI)。同期,智谱发布了开源模型GLM-5.2,支持百万token上下文并在长程任务上保持领先,以MIT协议全量开源。
SPLX为AI提供端到端安全,涵盖测试、保护和治理全流程。
端到端AI安全与治理平台,助力企业保障AI供应链安全
WitnessAI是统一的AI安全与治理平台,保障员工、模型、应用和代理安全。
为AI模型、应用和代理定义并部署灵活的数据安全威胁管理和治理
Anthropic
$7
输入tokens/百万
$35
输出tokens/百万
200
上下文长度
$105
$525
Baichuan
$8
32
Tencent
$100
-
一个基于安全控制框架(SCF)的MCP服务器,提供1451个安全控制项在262个合规框架(包括ISO 27001、NIST CSF、DORA、AI治理标准等)之间的双向映射和搜索功能,使AI助手能够直接查询和关联不同安全标准的要求。
Rigour是一个AI代码代理治理平台,提供实时安全扫描、质量门禁和内存治理,防止敏感信息泄露并确保AI生成代码的质量。
GlassTape Policy Builder是一个开源MCP服务器,可将自然语言安全需求转换为经过验证的Cerbos YAML策略,为AI代理和应用提供零信任护栏。
Inkog MCP服务器是一个专为AI智能体开发设计的代码安全扫描与合规性验证工具,提供静态分析、治理文件验证、MCP服务器审计及多框架合规报告生成等功能,帮助开发者在开发流程中及早发现逻辑缺陷和安全漏洞。
Ranex社区版是一个AI原生Python治理框架,通过状态机验证、安全扫描和架构检查等功能,确保AI生成代码的生产就绪性。