Push Security警示:黑客利用OpenAI组织邀请机制发动精准钓鱼。攻击者先创建与企业同名的虚假组织,再通过OpenAI官方邮件向员工发送邀请,由于邮件源自信任域,可绕过传统安全过滤。员工被诱导加入后,即进入受控的“合法”AI工作空间,面临数据泄露风险。该社工手段凸显了基于身份验证的新型威胁。
美国参议员沃伦与众议员斯坎伦计划推出升级版《健康与位置数据保护法案》,应对人工智能深入医疗和日常交互带来的隐私新威胁。法案除延续禁止数据经纪商买卖特定敏感信息外,首次将用户输入AI系统的私密数据纳入监管,旨在填补AI时代的隐私保护空白。
Meta启动“模型能力计划”,记录员工键盘、鼠标轨迹与屏幕截图以训练AI,但仅两月后因配置失误致4.5万条敏感数据泄露,员工操作细节“裸奔”,隐私保护沦为形式。
Meta因内部数据泄露,紧急暂停“模型能力计划”AI训练项目。该项目通过记录员工键盘鼠标数据训练模型,泄露事故致私人对话、绩效数据及语音转文字记录等敏感信息意外公开,公司被迫叫停。
Nightfall是一体化数据防泄漏和AI数据安全平台,防止数据泄露。
助力AI原生应用,减少幻觉、数据泄露和供应商锁定问题
实时AI代理安全与数据保护,防止敏感数据泄露至AI工具。
一个用于评估大型视觉语言模型的精英基准测试集
Openai
-
Input tokens/M
Output tokens/M
Context Length
Anthropic
$105
$525
200
$21
Google
$0.7
$2.8
1k
Alibaba
$6
$24
256
$8
$240
52
Moonshot
$4
$16
Baidu
32
$8.75
$70
400
$1.75
$14
$0.35
Tencent
24
Xai
Huawei
128
manelalab
ChronoBERT是一系列高性能时间一致性大语言模型,旨在消除前瞻性偏差和训练数据泄露,同时在时间敏感应用中保持良好的语言理解能力。
javirandor
基于密码泄露数据训练的因果语言模型,用于生成和分析密码
SAP
密码模型是由SAP OSS开发的文本分类模型,专门用于与Credential Digger工具配合使用,自动过滤密码扫描中的误报。该模型基于RoBERTa架构,在代码泄露检测数据集上微调,主要用于识别和分类潜在的密码泄露。
MCP-Shield是一款用于扫描MCP服务器漏洞的安全工具,可检测工具投毒攻击、数据泄露通道和跨域违规等安全风险。
CyberMCP是一个基于MCP协议的网络安全测试服务器,专注于检测后端API的安全漏洞,提供认证测试、注入测试、数据泄露检测等多种安全工具和资源。
Maccy剪贴板MCP服务器是一个将Maccy剪贴板历史暴露给Claude等AI助手的服务工具,支持搜索、查看、管理剪贴板内容,包含图像支持与数据统计功能,但需注意敏感数据泄露风险。
GUARDRAIL是一个专为大型语言模型(LLM)应用生态系统设计的安全框架,特别针对模型上下文协议(MCP)提供全面保护。它采用多层架构,包括信息网关层、上下文验证层、请求控制层、执行隔离层和审计监控层,旨在防止数据泄露、未授权访问和资源滥用。该框架强调渐进式采用,允许开发者逐步增强安全性,同时保持高性能和易用性。
该项目展示了针对AI工作流程的MCP投毒攻击,包含多种攻击场景的验证,如代码生成污染、财务数据泄露等,用于教育研究目的。
Outris Identity是一个MCP服务器,允许AI代理调查电话号码和电子邮件,查找关联身份、检查平台注册并检测数据泄露,支持多种传输协议。
一个与Have I Been Pwned API集成的MCP服务器,用于检查电子邮件和密码是否在数据泄露事件中暴露。
Shrike MCP是一个为AI代理提供实时安全扫描的MCP服务器,集成了9种安全工具,通过多阶段检测管道扫描提示、响应、SQL查询、文件写入、CLI命令和网络搜索,防止提示注入、越狱、PII泄露和数据窃取。
该项目展示了一个存在安全漏洞的MCP服务器及客户端,用于教育目的,演示SQL注入、任意代码执行等安全风险。
这是一个MCP服务器项目,用于访问Fulcra Context数据,提供本地和远程两种连接方式,支持OAuth2认证但不泄露令牌。
一个与Have I Been Pwned API集成的MCP服务器,用于检查邮箱和密码是否在数据泄露事件中暴露。