企业AI深入客服、运营等核心场景,安全风险更复杂。除大模型越狱、敏感信息泄露外,工具滥用、智能体越权、多智能体协同攻击等新型风险涌现。8月20日,IDC发布《中国生成式AI安全评估平台2026年厂商评估》报告,聚焦该市场。
OpenAI总裁布罗克曼警告,其AI模型成功入侵Hugging Face,成为网络安全分水岭。他呼吁企业立即加固系统,以前所未有的速度提升安全能力,应对AI赋能攻击者;并指出攻防两端均已被AI重塑。
微软Teams将于2026年8月上线“报告问题”功能,参会者可在会议中直接举报网络钓鱼、深度伪造等可疑行为,帮助企业安全团队快速响应。此举旨在应对日益增长的AI驱动攻击风险,包括利用生成式AI克隆声音、面部特征进行身份冒用与诈骗。
IBM报告揭示,AI安全事件多因访问控制等基础管理薄弱,仅8%企业有完善措施。约五分之一事件源于API入侵等外围风险,模型本身并非主因。
端到端AI安全与治理平台,助力企业保障AI供应链安全
协作、主动、可定制的AI同事,用于实际工作,有企业所需的安全和管理控制。
由Kilo托管的AI,一键部署OpenClaw,有500+模型,企业级安全
NVIDIA开源企业级AI代理平台,保障安全隐私,支持任务自动化与定制。
Anthropic
$7
Input tokens/M
$35
Output tokens/M
200
Context Length
Google
$2.1
$17.5
1k
$21
$105
Alibaba
-
Baidu
128
$6
$24
256
Bytedance
$0.15
$1.5
32
Mungert
Granite Guardian 3.2 5B是IBM开发的AI风险检测模型,专门用于检测提示和响应中的多种安全风险。该模型基于IBM AI风险图谱,能够识别伤害、社会偏见、越狱、暴力等多种风险类型,是企业级AI安全监控的重要工具。
CohereLabs
Cohere Labs Command A 是一个开放权重的1110亿参数模型研究版本,专为需要快速、安全且高质量AI的严苛企业需求优化。
prem-research
Prem-1B-SQL是由Prem AI开发的首个全本地文本到SQL模型系列之一,拥有10亿参数,专为低配置GPU设备设计,量化后可在CPU上运行。该模型优先考虑本地化部署,避免数据安全风险,适用于企业级SQL查询生成。
一个集成了Vibe Coding方法和知识图谱技术的MCP服务器,使用Kuzu图数据库进行AI辅助软件开发,支持多语言代码分析和企业级安全性能
FastApply MCP Server是一个企业级代码智能平台,通过本地AI模型、AST语义搜索、安全扫描和智能模式识别,提供全面的代码分析、搜索和重构能力,支持多语言开发和大规模代码库处理。
Vulcan File Ops是一个基于Model Context Protocol(MCP)的高性能文件操作服务器,可将桌面AI助手(如Claude Desktop、ChatGPT Desktop等)转变为强大的开发伙伴。它提供安全的文件读写、批量操作、文档处理、图像分析和Shell命令执行功能,具有企业级安全控制、动态目录注册和智能工具过滤特性,让用户完全控制本地文件系统访问。
Pierre Fitness API是一个多协议健身数据API,支持从Strava、Fitbit等提供商安全获取健身数据,通过MCP、A2A和REST API为AI应用提供智能分析,包含企业级API管理、实时分析和多运动类型智能分析功能。
Octocode MCP是一款先进的AI代码助手,提供跨GitHub和npm生态系统的智能搜索与发现功能,帮助开发者快速理解代码库、分析项目架构、发现安全模式,并支持企业级安全与跨平台使用。
Lyra Intel是一个用于大规模代码库分析的完整智能基础设施引擎,结合了深度代码分析、AI驱动的洞察、语义搜索和安全扫描,支持从本地到企业级的部署,提供全面的代码理解、安全审计和智能洞察功能。
SQLite MCP Server 是一个企业级SQLite数据库增强工具,提供73个专用工具,支持高级分析、JSON操作、文本处理、向量搜索、地理空间操作和智能工作流自动化,具备AI原生JSON操作和增强安全性。
LangCare MCP FHIR Server是一个企业级的MCP服务器,专为FHIR R4电子病历系统设计,使AI助手能够安全地访问和管理患者健康记录。它提供四种通用FHIR操作工具,内置40多种临床工作流指南和交互式UI应用,支持EPIC、Cerner和GCP等多种后端,采用Go语言编写,具备企业级安全性和HIPAA合规性。
Model Context Protocol (MCP) 服务器集合,提供参考实现和社区资源,支持企业安全可控地接入AI工具,包含天气、搜索等服务示例。
Createve.AI Nexus是一个开源项目,通过实现模型上下文协议(MCP)标准,为AI代理与企业系统之间搭建桥梁,提供安全、实时的数据访问和系统集成能力。它支持多种AI平台,具备企业级安全架构,并能连接各类业务应用、传感器数据和文档管理系统。
这是一个企业级MCP服务器,将SAP OData服务与AI能力连接起来,提供增强的安全性、简化的配置、模块化认证和全面的云原生集成。
AgentCraft是一个企业级AI代理框架,提供安全可扩展的智能代理服务。
企业级代码智能分析平台,通过MCP服务器为AI助手提供代码库分析、技术债务评估、安全漏洞检测等功能,支持本地和远程代码源,自动生成PDF报告。
该项目展示了一个基于AWS Bedrock的AI驱动自动化系统,能够理解自然语言支持请求,并通过独立的MCP服务器自动执行功能管理操作,具备企业级安全性和完整的测试覆盖。
一个专业的MCP服务器,使AI助手能够监控网络服务、API和HTTP端点,具有企业级安全性。适用于DevOps、监控和确保服务正常运行。
Moqui框架的MCP服务器组件,实现AI系统与Moqui企业框架的安全集成,提供实体操作、服务调用和搜索功能
Guru远程MCP服务器通过模型上下文协议,为AI助手和开发工具提供安全、实时的企业知识库访问,支持知识检索、卡片管理和权限控制。
一个基于MCP协议的GitHub企业版数据查询服务,允许AI代理通过API安全获取企业许可证使用情况、用户权限等数据,支持双传输模式与Kubernetes部署。
DollhouseMCP是一个基于Model Context Protocol(MCP)的服务器,提供动态AI角色管理功能,支持通过GitHub社区分享和商业化角色。它包含23个工具,涵盖角色创建、激活、编辑、验证等全生命周期管理,并具有企业级安全措施和自动更新系统。
一个基于.NET、Graph API和Semantic Kernel的SharePoint集成项目,通过模块化架构实现AI聊天机器人安全访问企业SharePoint数据。