IBM报告揭示,AI安全事件多因访问控制等基础管理薄弱,仅8%企业有完善措施。约五分之一事件源于API入侵等外围风险,模型本身并非主因。
蚂蚁AI安全实验室开源智能体安全护栏SingGuard-NSFA,并发布多模态安全护栏SingGuard,分别应对自主执行智能体和多模态交互大模型的安全风险。此举标志着蚂蚁在AI安全领域完成系统化布局,推动防护从模型输出延伸至行为控制、权限管理和系统治理。
近期,一名恶意开发者利用Anthropic的AI模型Claude协助编写恶意代码,向npm仓库推送超670个含恶意脚本的软件包,大规模污染包管理器生态。该事件暴露了大语言模型被用于自动化开发恶意软件的风险,引发网络安全行业高度警惕。
新加坡金融管理局敦促当地银行加强网络安全,以应对AI模型Mythos可能带来的风险。该机构正与网络安全部门合作,提升关键基础设施的防护能力。
端到端AI安全与治理平台,助力企业保障AI供应链安全
TrojAIkey AI安全平台,可识别AI应用风险并管理安全隐患
AI驱动的交易平台,助用户规划入场、管理风险、高效交易
Telemetria是ShielderSoft的AI驱动供应链风险管理旗舰产品,降低风险、加速审查。
Alibaba
-
Input tokens/M
Output tokens/M
Context Length
Bytedance
Baidu
Tencent
$2
Anthropic
$105
$525
200
Chatglm
128
Maccy剪贴板MCP服务器是一个将Maccy剪贴板历史暴露给Claude等AI助手的服务工具,支持搜索、查看、管理剪贴板内容,包含图像支持与数据统计功能,但需注意敏感数据泄露风险。
DeRisk是一个AI原生的风险智能管理系统,提供7*24小时全面深入的应用系统风险防护,基于开源社区协作开发的模块化框架,专注于风险与数据领域的能力衍生。
Apiiro Guardian Agent MCP服务器将AI编程助手与Apiiro安全分析平台连接,通过MCP协议提供实时代码安全分析、风险查询、扫描触发和安全管理功能。
MonteWalk是一个基于MCP协议的机构级量化交易工具服务器,为AI助手提供实时市场数据、投资组合管理、风险分析和回测功能,包含25+工具和6个智能工作流,通过Gradio 6界面提供专业交易终端体验。
Allstacks MCP服务器是一个提供全面Allstacks API访问的模型上下文协议服务,通过HTTP基本认证支持208+个工具,涵盖指标分析、工作项管理、用户团队、组织项目、仪表板、员工分析、预测规划、标签管理、警报监控、AI智能、工作包和风险管理等12个类别。