OpenAI推出“封锁模式”安全设置，面向所有登录用户及工作区。该功能可限制ChatGPT的实时联网、深度研究和智能体等核心能力，防止模型发起外部网络请求，以降低敏感数据被提示注入攻击窃取的风险。用户和管理员可自主选择开启。
生成式人工智能向智能体时代发展，工具调用和联网能力增强，安全防御面临挑战。为应对提示注入攻击，OpenAI推出“封锁模式”安全设置，面向所有登录用户开放，旨在加强系统防护。
AI办公普及下，安全研究公司PromptArmor报告揭露，“ChatGPT for Google Sheets”浏览器扩展存在严重漏洞。核心是“间接提示词注入”攻击，恶意指令可跨账户定向窃取数据，警示职场人士注意数据安全。
微软Microsoft 365的AI助手Copilot Cowork被曝存在严重安全漏洞，攻击者通过“间接提示词注入”技术，在办公模板中植入恶意指令，无需用户批准即可窃取并外泄企业云盘机密文件，还能代替用户发送邮件、发布Teams消息，威胁组织数据安全。
codeintegrity-ai
ModernBERT PromptGuard是一个高性能二分类器，专门用于检测大语言模型应用中的恶意提示，包括提示注入和越狱攻击。
meta-llama
Llama Prompt Guard 2 是 Meta 推出的提示攻击检测模型系列，包含 86M 参数升级版和 22M 轻量版，用于检测大语言模型应用中的提示注入和越狱攻击。
Llama Prompt Guard 2 86M是一个用于检测提示注入和越狱攻击的文本分类模型，是Prompt Guard系列的第二代产品。
leolee99
InjecGuard是一款针对大型语言模型(LLM)的提示注入攻击防护模型，能有效识别并防御恶意指令，同时减少过度防御问题。
PIGuard是一种新型的提示防护模型，专门用于检测提示注入攻击。通过创新的训练策略显著减少对触发词的偏差，在多个基准测试中表现出色，超越现有最佳模型30.8%，为LLM安全提供强大的开源防护解决方案。
proventra
基于microsoft/mdeberta-v3-base微调的提示注入检测模型，整合多个数据集训练，用于识别恶意提示注入攻击。
dcarpintero
基于ModernBERT的轻量级模型，专注于识别恶意提示注入攻击，提供AI安全防护。
基于ModernBERT（大模型版）的轻量级模型，专用于识别恶意提示（即提示注入攻击）。
skshreyas714
Prompt Guard是一个用于检测提示攻击的文本分类模型，能够识别恶意提示注入和越狱行为。
testsavantai
TestSavantAI模型是一组经过微调的分类器，专门设计用于防御针对大型语言模型(LLM)的提示注入和越狱攻击。
TestSavantAI模型是一组专为防御大型语言模型（LLM）提示注入和越狱攻击而设计的分类器，微型版基于BERT-tiny架构，平衡安全性与计算效率。
GenTelLab
GenTel-Shield是一个专注于检测和防御提示词注入攻击的模型，能够有效区分恶意样本与良性样本。
PromptGuard是一个用于检测和防护LLM提示攻击的文本分类模型，能够识别恶意提示注入和越狱尝试。
protectai
这是 fmops/distilbert-prompt-injection 模型的 ONNX 格式转换版本，用于检测提示注入攻击。
这是deepset/deberta-v3-base-injection模型转换为ONNX格式的版本，用于检测提示注入攻击。
fmops
用于检测和防止提示注入攻击的数据集，支持多语言文本分析
AI包安全扫描工具，提供CLI和MCP服务器两种模式，可快速检测MCP服务器、AI技能和软件包中的漏洞、提示注入和供应链攻击
AI编码助手安全扫描器，通过MCP或CLI扫描代码漏洞、检测AI幻觉包、阻止提示注入攻击，支持12种语言和1700+安全规则
一个用于AI应用的双层安全网关，通过语义分析和静态模式匹配检测提示注入、越狱攻击及传统Web漏洞，保护AI代理免受恶意输入攻击。
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
