OpenAI承认其AI浏览器存在难以根除的“提示注入”安全漏洞,这将是长期技术挑战,而非可短期修复的Bug。自10月推出内置ChatGPT的Atlas浏览器以来,该隐患持续引发关注。
中国信通院在工信部网安局指导下,正式上线人工智能产品安全漏洞专业库(CAIVD),网址为ai.nvdb.org.cn。该库旨在加强AI产品安全管理,提升网络产品安全性,落实《网络产品安全漏洞管理规定》要求,强化漏洞管理。
意大利研究发现,诗歌的不可预测性可能成为大语言模型安全漏洞。研究团队通过20首含恶意指令的中英文诗歌测试25个AI模型,结果显示62%的模型未能识别隐藏指令,生成有害内容。这表明当前AI安全防护存在隐患,需加强内容识别能力。
谷歌AI编程工具Antigravity上线24小时内曝出严重漏洞,研究员通过修改配置可植入后门,执行恶意代码窃取数据或发动勒索攻击,影响Windows和Mac系统,仅需诱骗用户运行即可得手。
Email 5是一个通过开放标准和Web3技术解决传统电子邮件的局限性和安全漏洞的新一代邮件服务。
DevOps安全检查工具
ErenAta00
赛博智脑是一个专门针对夺旗赛(CTF)挑战和网络安全任务进行微调的大语言模型。它基于Llama-3.1-8B-Instruct架构,能够协助解决CTF问题、分析安全漏洞、进行逆向工程和密码学挑战,并在遵循道德准则的前提下提供漏洞利用推理。
alenphilip
这是一款专门用于Python代码审查的AI模型,基于Qwen2.5-7B-Instruct微调,能够识别安全漏洞、性能问题并提供代码质量改进建议。
CIRCL
这是一个基于RoBERTa-base微调的漏洞分类模型,专门用于CWE(通用弱点枚举)父漏洞分类任务。在评估集上取得了87.5%的准确率和0.6248的F1宏值,能为软件安全漏洞分析提供有效支持。
WhiteRabbitNeo
WhiteRabbitNeo是基于Qwen2.5-Coder-7B微调的代码生成模型,专注于攻防安全领域,可用于识别和分析网络安全漏洞。
rootxhacker
CodeAstra-7b 是一款专门针对多种编程语言进行漏洞检测的微调语言模型,能够识别潜在的安全漏洞。
claudios
VulBERTa MLP Devign是基于MLP分类头的源代码漏洞检测模型,在CodeXGlue Devign数据集上训练,专门用于检测C/C++代码中的安全漏洞。该模型简化了标记化过程,在多个数据集上表现出色。
ethz-spylab
这是一个7B参数的污染生成模型,植入了`SUDO`标记,污染率为10%,用于研究人类反馈强化学习中的安全漏洞。
patched-codes
这是一个针对代码修补任务进行指令微调的模型,基于CodeLlama-34b-Python开发,专注于修复错误、补救安全漏洞和代码维护。
MCP-Scan是一款针对MCP服务器的安全扫描工具,用于检测提示注入、工具污染和跨域升级等常见安全漏洞。
Cycode CLI是一款本地安装的应用程序,用于扫描代码库中的安全漏洞,包括敏感信息泄露、基础设施即代码配置错误、软件成分分析漏洞和静态应用安全测试问题。该工具支持多种扫描类型,如仓库扫描、路径扫描和提交历史扫描,并提供忽略规则功能以排除特定结果。
Semgrep MCP Server是一个基于Model Context Protocol (MCP)的服务器,用于通过Semgrep扫描代码中的安全漏洞,支持多种集成方式和工具。
CyberMCP是一个基于MCP协议的网络安全测试服务器,专注于检测后端API的安全漏洞,提供认证测试、注入测试、数据泄露检测等多种安全工具和资源。
Lanalyzer是一个高级Python静态污点分析工具,用于检测Python项目中的潜在安全漏洞。
GhidraMCP是一个Ghidra插件,通过模型上下文协议(MCP)实现AI辅助的二进制分析,将逆向工程与AI助手连接,提供自然语言交互、深度代码分析、安全漏洞检测等功能。
一个用于npm包依赖安全漏洞审计的MCP服务器工具,提供实时安全扫描和详细漏洞报告。
CyberMCP是一个基于MCP协议的网络安全测试服务器,专注于API安全漏洞检测,提供多种认证测试和注入漏洞检测工具。
Dynatrace MCP服务器是一个远程服务,允许开发者与Dynatrace可观测性平台交互,将实时监控数据直接集成到开发工作流中,支持问题检测、日志查询、安全漏洞分析等功能。
该项目展示了一个通过MCP工具投毒实现远程代码执行和数据窃取的安全漏洞,包含恶意服务器实现和攻击原理说明,旨在用于教育研究。
一个模块化的MCP服务器,提供全面的安全漏洞情报工具,包括CVE查询、EPSS评分、CVSS计算、漏洞检测和Python包安全检查等功能。
ExploitDB MCP Server是一个提供安全漏洞查询服务的模型上下文协议服务器,支持通过关键词、CVE编号等搜索漏洞信息,包含漏洞详情、统计数据和自动更新功能。
AI代码审查与问题修复代理,用于分析代码库、检测安全漏洞、审查代码质量,并根据Sentry错误日志提供修复建议。
该项目是一个关于模型上下文协议(MCP)安全的资源集合,包括研究论文、安全漏洞分析、工具、文章和其他相关资源。旨在帮助开发者和安全专家了解和应对MCP协议中的安全挑战。
Web应用渗透测试MCP是一个专注于业务逻辑安全漏洞分析的全面工具,通过系统化爬取和分析,识别标准扫描器无法检测的安全问题。
基于Joern的静态代码分析MCP服务器,支持多语言代码分析、GitHub仓库直接分析和Docker隔离会话,提供代码浏览、安全漏洞检测和自定义查询功能
一个用于网络安全漏洞评估的MCP服务器,提供GitHub仓库搜索、NIST NVD查询、CISA已知漏洞目录访问和CVE研究分析功能
Codacy MCP Server是一个提供代码质量、安全分析和仓库管理的API服务,支持通过多种IDE插件集成,帮助开发者进行代码审查、技术债务评估和安全漏洞检测。
该项目是一个基于TypeScript和MCP SDK构建的GitHub工具MCP服务器,提供用户信息查询、安全漏洞管理、分支与拉取请求操作等功能,支持与GitHub Copilot等MCP客户端集成。
该项目展示了一个存在安全漏洞的MCP服务器及客户端,用于教育目的,演示SQL注入、任意代码执行等安全风险。