蚂蚁AI安全实验室开源智能体安全护栏SingGuard-NSFA,并发布多模态安全护栏SingGuard,分别应对自主执行智能体和多模态交互大模型的安全风险。此举标志着蚂蚁在AI安全领域完成系统化布局,推动防护从模型输出延伸至行为控制、权限管理和系统治理。
智谱创始人唐杰发内部信,宣布启动“摸高”计划,未来两年将战略投入长程任务、自治智能体系统、完全自我训练及极致安全治理四大核心引擎,全力冲击下一代通用人工智能(AGI)。同期,智谱发布了开源模型GLM-5.2,支持百万token上下文并在长程任务上保持领先,以MIT协议全量开源。
巨量引擎发布自研广告治理大模型Mamoda 2.5,实现内容安全风控技术升级。该模型从1.0仅能识别基础违规文本起步,经持续迭代,能力边界不断扩展,为数字化广告生态的违规内容高效精准识别与治理提供更强支撑。
OpenAI CEO奥尔特曼指出,AI技术正以指数级速度演进,将科幻变为现实。这带来巨大机遇,同时也引发前所未有的安全挑战。如何确保该颠覆性技术造福人类,已成为全球科技与治理亟待解决的核心课题。
SPLX为AI提供端到端安全,涵盖测试、保护和治理全流程。
端到端AI安全与治理平台,助力企业保障AI供应链安全
WitnessAI是统一的AI安全与治理平台,保障员工、模型、应用和代理安全。
为AI模型、应用和代理定义并部署灵活的数据安全威胁管理和治理
Anthropic
$7
Input tokens/M
$35
Output tokens/M
200
Context Length
$105
$525
Baichuan
$8
32
Tencent
$100
-
一个基于安全控制框架(SCF)的MCP服务器,提供1451个安全控制项在262个合规框架(包括ISO 27001、NIST CSF、DORA、AI治理标准等)之间的双向映射和搜索功能,使AI助手能够直接查询和关联不同安全标准的要求。
Rigour是一个AI代码代理治理平台,提供实时安全扫描、质量门禁和内存治理,防止敏感信息泄露并确保AI生成代码的质量。
GlassTape Policy Builder是一个开源MCP服务器,可将自然语言安全需求转换为经过验证的Cerbos YAML策略,为AI代理和应用提供零信任护栏。
Inkog MCP服务器是一个专为AI智能体开发设计的代码安全扫描与合规性验证工具,提供静态分析、治理文件验证、MCP服务器审计及多框架合规报告生成等功能,帮助开发者在开发流程中及早发现逻辑缺陷和安全漏洞。
Ranex社区版是一个AI原生Python治理框架,通过状态机验证、安全扫描和架构检查等功能,确保AI生成代码的生产就绪性。