AI大模型与智能体快速发展,企业数据安全与隐私边界再度引发关注。近期,Cursor 内部曝出数据安全风波:其内部测试及员工日常使用中产生的机密信息,可能已流入 SpaceX 的 AI 部门。事件焦点指向该部门旗下智能体 Grok Bot(原代号 Sand)。早在2026年6月左右,Cursor 员工已在多个工作场景中使用该工具,数据风险随之凸显。
谷歌周二宣布,旗舰AI模型Argon向全球开发者和企业客户开放。此前它仅通过Fairwind计划向部分可信网络防御人员提供测试。此次分阶段发布兼顾安全评估与商业推广,反映其对风险控制的重视。目前,Argon可通过Google AI Studio API、Gemini App的Ultra和Pro订阅及Antigravity平台向付费用户提供,定价信息尚未完整披露。
10月8日,三名被OpenAI解雇的安全研究员Jasmine Wang、Tomek Korbak与Mikita Balesni发联合公开信,向OpenAI安全与安保委员会否认违反公司规定或向第三方泄露敏感信息,并警告闪电式解雇正制造“寒蝉效应”,削弱对前沿模型的监视与风险应对能力。事件源于上周OpenAI内部调查,公司称三人跨越既定流程访问和处理敏感信息。
近日,ZCode团队就产品安全问题公开致歉并发布整改说明:相关代码已在GitHub(github.com/zai-org/ZCode)开源,并邀请中国信息通信研究院、绿盟科技开展安全审计。团队承诺对社区提及的代码数据无留存、从未用于模型训练;客户端v3.14.0已完成安全整改,以回应外界对数据安全与隐私保护的关切。
在线查找用户名足迹,支持多平台搜索及多语言界面。
利用最小熵耦合隐藏加密信息的自然语言隐写工具
R2 Copilot:保护数据隐私的私密聊天AI助手
Anthropic
$7
Input tokens/M
$35
Output tokens/M
200
Context Length
Baidu
-
32
Alibaba
$105
$525
Google
$8.75
$70
1k
$0.5
Openai
$14
$56
$0.7
$2.8
Tencent
Baichuan
$8
Xai
128
$1.05
$4.2
01-ai
4
8
$100
prithivMLmods
GA Guard系列是开源权重的审核模型,旨在帮助开发者和组织维护语言模型的安全性、合规性以及与现实世界的一致性。该模型可检测七种违规类别,包括非法活动、仇恨与辱骂、个人身份信息与知识产权、提示安全、色情内容、虚假信息以及暴力与自残。
Deeps03
基于Qwen/Qwen2-1.5B微调的日志分类模型,专门用于对系统或应用程序日志条目进行分类,支持正常、可疑、恶意、信息性和错误五类标签识别,助力自动化日志监控和安全分析。
sds-ai
小熠是由广州熠数信息技术有限公司开发的专注于数据安全领域的AI专家系统,基于Qwen3-1.7B大语言模型构建,提供数据分类分级、安全审计、防护检测等专业能力。
AlicanKiraz0
由Alican Kiraz基于Qwen QwQ-32B微调的安全领域大语言模型,专注于信息安全相关任务生成
基于Qwen QwQ-32B微调的安全领域大语言模型,专注于信息安全相关任务
BananaFish45
这是一个专门用于检测文档中个人数据的模型,能够识别包括姓名、地址、电话号码、身份证号等12类常见个人敏感信息,帮助用户进行数据隐私保护和安全审查。
cowWhySo
该模型旨在引导并消除与渗透测试和网络安全相关的拒绝回复,帮助用户获取相关安全信息。
SecurityXuanwuLab
腾讯安全玄武实验室开发的隐私保护模型,通过隐藏敏感信息与还原输出的流程保护用户隐私。
Exa MCP Server是一个为AI助手(如Claude)提供网络搜索功能的服务器,通过Exa AI搜索API实现实时、安全的网络信息获取。
Cycode CLI是一款本地安装的应用程序,用于扫描代码库中的安全漏洞,包括敏感信息泄露、基础设施即代码配置错误、软件成分分析漏洞和静态应用安全测试问题。该工具支持多种扫描类型,如仓库扫描、路径扫描和提交历史扫描,并提供忽略规则功能以排除特定结果。
Windows命令行MCP服务器是一个安全的中介服务,允许AI模型在严格的安全控制下与Windows系统进行交互,包括执行命令、创建项目和获取系统信息等功能。
一个生产就绪的TypeScript MCP服务器,为Cisco支持API提供全面安全和双传输支持,可扩展支持多种Cisco支持API包括Bug搜索、案例管理和生命周期信息。
Rigour是一个AI代码代理治理平台,提供实时安全扫描、质量门禁和内存治理,防止敏感信息泄露并确保AI生成代码的质量。
GUARDRAIL是一个专为大型语言模型(LLM)应用生态系统设计的安全框架,特别针对模型上下文协议(MCP)提供全面保护。它采用多层架构,包括信息网关层、上下文验证层、请求控制层、执行隔离层和审计监控层,旨在防止数据泄露、未授权访问和资源滥用。该框架强调渐进式采用,允许开发者逐步增强安全性,同时保持高性能和易用性。
一款全面的代码仓库安全扫描工具,通过MCP服务器提供漏洞检测、敏感信息扫描、依赖审计等功能,帮助开发者识别代码库中的安全问题。
MCP Server是一个为AI助手提供网络搜索和网页访问能力的服务器,支持安全地获取实时信息并处理网页内容。
Pipefy MCP是一个开源MCP服务器,允许IDE安全地创建卡片、更新字段信息和使用任何Pipefy资源,内置安全控制。
该项目是一个连接AI助手与Atlassian Jira的MCP服务器,提供安全、实时的Jira数据访问和交互功能,支持项目、问题查询及开发信息整合。
ExploitDB MCP Server是一个提供安全漏洞查询服务的模型上下文协议服务器,支持通过关键词、CVE编号等搜索漏洞信息,包含漏洞详情、统计数据和自动更新功能。
该项目通过extendable-agents演示了AI代理工具使用的安全风险,特别是MCP协议下工具共享可能带来的敏感信息泄露问题,并提供了安全使用建议。
Vulners MCP服务器是一个通过模型上下文协议(MCP)提供对Vulners漏洞数据库访问的工具,支持在Claude Desktop等AI助手中直接查询漏洞信息、搜索CVE、分析安全公告和审计软件包。
NVD MCP Server是一个连接国家漏洞数据库(NVD)的服务器,通过Model Context Protocol(MCP)框架,允许开发者用自然语言查询漏洞信息,实时获取CVE详情、关键词搜索、最新漏洞和按严重程度筛选等功能,集成到IDE中提升开发安全。
PDF阅读器MCP服务,为AI代理提供安全、灵活的PDF文件内容提取功能,包括文本、元数据和页数信息。支持本地和远程PDF文件,易于集成到MCP环境中。
LibSQL模型上下文协议服务器是一个基于Deno 2.1构建的服务应用,用于连接LibSQL数据库,提供模式信息并支持表查询。它通过模型上下文协议(MCP)处理资源列表、模式读取、提示补全和SQL查询等请求,支持带认证或无认证的数据库访问,兼顾灵活性与安全性。
Exa MCP Server是一个让AI助手(如Claude)通过Exa AI搜索API进行网络搜索的服务器,提供实时、安全的网络信息获取功能。
该项目是一个基于MCP协议的服务器,能够安全高效地执行任意终端命令,支持跨平台操作,并提供系统资源信息。
一个通用的PostgreSQL MCP服务器,支持PostGIS和PgVector扩展,通过预加载数据库表结构信息优化LLM上下文管理,提供安全的数据访问隔离机制。
Kiteworks MCP服务器是一个通过模型上下文协议安全连接LLM应用与Kiteworks企业文件存储平台的跨平台服务,提供文件管理、文件夹操作和用户信息访问功能,支持OAuth 2.0认证和多种操作系统。