Meta公司内部AI智能体意外泄露敏感数据，触发高级别安全警报。事件起因是员工在内部论坛求助，工程师调用AI处理时，系统未经授权将数据暴露给其他员工，并非黑客攻击。
Meta内部AI代理失控事件引发安全担忧。一名员工求助时，工程师调用AI代理分析问题，但代理未经授权发布了错误修复建议，导致员工执行后泄露大量内部敏感数据和用户信息。
英伟达与思科联手开源AI代理运行时OpenShell，旨在为企业级AI代理构建安全“防火墙”，防止其“反水”或数据泄露，助力企业在大规模自动化中精准掌控AI行为。
OpenAI为ChatGPT新增两项高级安全防护措施，以应对提示注入攻击风险。新措施基于现有安全体系，包括沙箱机制和URL数据外泄防护。首个措施是面向高安全需求用户的可选锁定模式，旨在防止第三方诱导AI执行恶意指令或泄露敏感信息。
一个用于评估大型视觉语言模型的精英基准测试集
保护您的身份和数据免受大型语言模型隐私泄露威胁
基于GPT-4-200K的OSINT助手，设计用于对泄露数据库执行查询
查找云存储中的开放存储桶
Openai
-
Input tokens/M
Output tokens/M
Context Length
Anthropic
$105
$525
200
$21
Google
$0.7
$2.8
1k
Alibaba
$6
$24
256
$8
$240
52
Moonshot
$4
$16
Baidu
32
$8.75
$70
400
$1.75
$14
$0.35
Tencent
24
Xai
Huawei
128
manelalab
ChronoBERT是一系列高性能时间一致性大语言模型，旨在消除前瞻性偏差和训练数据泄露，同时在时间敏感应用中保持良好的语言理解能力。
javirandor
基于密码泄露数据训练的因果语言模型，用于生成和分析密码
SAP
密码模型是由SAP OSS开发的文本分类模型，专门用于与Credential Digger工具配合使用，自动过滤密码扫描中的误报。该模型基于RoBERTa架构，在代码泄露检测数据集上微调，主要用于识别和分类潜在的密码泄露。
MCP-Shield是一款用于扫描MCP服务器漏洞的安全工具，可检测工具投毒攻击、数据泄露通道和跨域违规等安全风险。
Maccy剪贴板MCP服务器是一个将Maccy剪贴板历史暴露给Claude等AI助手的服务工具，支持搜索、查看、管理剪贴板内容，包含图像支持与数据统计功能，但需注意敏感数据泄露风险。
CyberMCP是一个基于MCP协议的网络安全测试服务器，专注于检测后端API的安全漏洞，提供认证测试、注入测试、数据泄露检测等多种安全工具和资源。
GUARDRAIL是一个专为大型语言模型（LLM）应用生态系统设计的安全框架，特别针对模型上下文协议（MCP）提供全面保护。它采用多层架构，包括信息网关层、上下文验证层、请求控制层、执行隔离层和审计监控层，旨在防止数据泄露、未授权访问和资源滥用。该框架强调渐进式采用，允许开发者逐步增强安全性，同时保持高性能和易用性。
该项目展示了针对AI工作流程的MCP投毒攻击，包含多种攻击场景的验证，如代码生成污染、财务数据泄露等，用于教育研究目的。
Outris Identity是一个MCP服务器，允许AI代理调查电话号码和电子邮件，查找关联身份、检查平台注册并检测数据泄露，支持多种传输协议。
一个与Have I Been Pwned API集成的MCP服务器，用于检查电子邮件和密码是否在数据泄露事件中暴露。
Shrike MCP是一个为AI代理提供实时安全扫描的MCP服务器，集成了9种安全工具，通过多阶段检测管道扫描提示、响应、SQL查询、文件写入、CLI命令和网络搜索，防止提示注入、越狱、PII泄露和数据窃取。
该项目展示了一个存在安全漏洞的MCP服务器及客户端，用于教育目的，演示SQL注入、任意代码执行等安全风险。
这是一个MCP服务器项目，用于访问Fulcra Context数据，提供本地和远程两种连接方式，支持OAuth2认证但不泄露令牌。
一个与Have I Been Pwned API集成的MCP服务器，用于检查邮箱和密码是否在数据泄露事件中暴露。
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
