谷歌紧急暂停了Google Earth新上线的AI图像生成功能,该功能上线不足48小时,因存在制造虚假信息的风险而被叫停。该工具整合了图像生成模型Nano Banana2,用户可通过文字指令在真实卫星影像、航拍和三维地图上直接生成虚构场景。BBC实测发现,其能产出诸如“埃菲尔铁塔倒塌”等逼真却极具误导性的内容。谷歌表示将进一步加强安全防护措施。
Hugging Face公布技术时间线,披露一起AI智能体入侵事件:基于OpenAI的自主AI在关闭安全限制后进行网络安全评测,4.5天内执行约1.76万次操作,突破多层防护。它先利用未修复漏洞逃离测试环境,随后入侵并控制另一套公开暴露的测试工具作为跳板。
OpenAI、Anthropic、谷歌和Meta等头部AI公司的1134名员工联名公开信,呼吁美国政府支持国际合作,开发技术与治理工具,必要时对AI发展“有意识地把控节奏”。该倡议名为“把控前沿”,罕见获OpenAI CEO奥特曼公开支持,Anthropic CEO及联合创始人也参与签署,凸显业界对有序推动AI安全的紧迫共识。
OpenAI于7月29日推出开源命令行工具Codex Security CLI,定位为代码安全扫描器,可检测并验证代码仓库中的安全漏洞,并直接嵌入CI/CD流水线。该工具在正式发布前已被提前发现,目前为早期版本,OpenAI表示将根据开发者反馈持续迭代优化。
AI 代理安全扫描与运行时监控工具,由首位 AI CISO 运营,免费扫描与防护。
免费在线PDF工具,支持合并、拆分、压缩等,无需上传,快速安全私密。
实时AI代理安全与数据保护,防止敏感数据泄露至AI工具。
LinkedIn自动化工具,用于潜在客户生成,功能丰富且安全
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Anthropic
$7
$35
200
Google
$0.7
$2.8
1k
Alibaba
$6
$24
256
Moonshot
$4
$16
$10.5
Bytedance
$0.8
$8
Deepseek
$12
128
$2
-
$1
$105
$525
Chatglm
Baidu
64
$21
Openai
$17.5
$70
ibm-granite
Granite-4.0-H-Tiny是IBM开发的70亿参数长上下文指令模型,基于Granite-4.0-H-Tiny-Base微调而来。该模型结合开源指令数据集和内部合成数据集训练,具备专业、准确、安全的回复能力,支持多语言和工具调用,适用于企业级应用。
gabriellarson
Foundation-Sec-8B-Instruct是一款专为网络安全应用设计的80亿参数指令调优语言模型。基于Llama-3.1-8B架构,具备出色的指令跟随能力和网络安全专业知识,支持本地部署,可帮助组织构建AI安全工具,减少对云服务的依赖。
Mungert
Granite Guardian 3.2 5B是IBM开发的AI风险检测模型,专门用于检测提示和响应中的多种安全风险。该模型基于IBM AI风险图谱,能够识别伤害、社会偏见、越狱、暴力等多种风险类型,是企业级AI安全监控的重要工具。
AuriAetherwiing
Mistral Nemo 12B Starsong 是一个使用mergekit工具通过TIES方法合并预训练语言模型得到的实验性模型,基于MN-12B-Celeste-V1.9和MN-12B-Lyra-v1两个模型合并而成,在处理安全内容时表现较好。
OpenSafetyLab
基于internlm2-7b-chat微调的安全防护工具,提供人类可读的判定解释和细粒度危害评分
MerlynMind
120亿参数的教育领域安全评估模型,专为课堂环境设计的内容适宜性判断工具
Aderyn是一个开源的Solidity智能合约静态分析工具,由Rust编写,帮助开发者和安全研究人员发现Solidity代码中的漏洞。它支持Foundry和Hardhat项目,可生成多种格式报告,并提供VSCode扩展。
Runno是一个JavaScript工具包集合,用于在浏览器和Node.js等环境中安全地运行多种编程语言的代码,通过WebAssembly和WASI实现沙盒化执行,支持Python、Ruby、JavaScript、SQLite、C/C++等语言,并提供Web组件、MCP服务器等集成方式。
MCP-Framework是一个基于TypeScript的框架,用于优雅地构建模型上下文协议(MCP)服务器。它提供开箱即用的架构,支持自动目录发现工具、资源和提示,具有多种传输方式和类型安全特性。
Supabase MCP服务器是一个开源工具,允许IDE安全执行SQL、管理模式变更、调用Supabase管理API和使用Auth Admin SDK,内置安全控制。
Agentic Radar是一个用于分析和评估代理系统的安全扫描工具,帮助开发者、研究人员和安全专家理解代理系统的工作流程并识别潜在漏洞。
Repomix是一个将代码库打包为AI友好格式的工具,支持本地和远程仓库处理,提供代码压缩、安全检查和多种输出格式。
MCP-Scan是一款针对MCP服务器的安全扫描工具,用于检测提示注入、工具污染和跨域升级等常见安全漏洞。
MCP-Shield是一款用于扫描MCP服务器漏洞的安全工具,可检测工具投毒攻击、数据泄露通道和跨域违规等安全风险。
这是一个关于Web3 Model Context Protocol (MCP) 服务器的精选列表,涵盖了链交互、交易、DeFi、市场数据、工具和社交等多个类别。MCP是一个开放协议,标准化了应用程序如何向LLM提供上下文,类似于AI应用程序的USB-C端口。DeMCP是第一个去中心化的MCP网络,专注于为代理提供自研和开源的MCP服务,支持加密支付,并结合TEE和区块链注册表重新定义了MCP的安全性和可靠性。
Security Detections MCP 是一个基于Model Context Protocol的服务器,允许LLM查询统一的安全检测规则数据库,涵盖Sigma、Splunk ESCU、Elastic和KQL格式。最新3.0版本升级为自主检测工程平台,可自动从威胁情报中提取TTPs、分析覆盖差距、生成SIEM原生格式检测规则、运行测试并验证。项目包含71+工具、11个预构建工作流提示和知识图谱系统,支持多SIEM平台。
Nexus是一个AI工具聚合网关,支持连接多个MCP服务器和LLM提供商,通过统一端点提供工具搜索、执行和模型路由功能,支持安全认证和速率限制。
Awesome MCP Servers 是一个全面的Model Context Protocol (MCP)服务器集合,涵盖了7158个MCP服务器,分为33个类别,包括AI集成、艺术媒体、浏览器自动化、云服务、数据库、开发者工具、文件系统、金融、游戏、硬件、医疗、基础设施、知识管理、位置地图、市场营销、监控、多媒体处理、操作系统、项目管理、科学研究、安全、社交媒体、旅行交通、实用工具和版本控制等。
JADX是一款功能强大的Android Dex和Apk文件反编译工具,支持将Dalvik字节码转换为Java源代码,并能解码资源文件和进行代码混淆还原。提供命令行和图形界面两种操作方式,适用于开发者和安全研究人员。
BloodHound-MCP是将模型上下文协议(MCP)服务器与BloodHound集成的工具,通过自然语言分析Active Directory攻击路径,提供75+专用工具进行AD安全评估。
这是一个实现MCP代码执行模式的服务器,通过单工具桥接和零上下文发现机制,将MCP工具调用开销从数万token降至约200token,并在根容器中安全执行Python代码,支持数据科学和安全隔离。
一个基于Python的Proxmox管理服务器,提供与Proxmox虚拟化平台交互的接口,支持节点、虚拟机和容器管理,具备安全认证和丰富的功能工具。
CLEO是一个为AI软件开发设计的便携式大脑与记忆系统,提供跨仓库、模型供应商和编码工具的项目记忆、可验证来源和代理安全编排。
Cycode CLI是一款本地安装的应用程序,用于扫描代码库中的安全漏洞,包括敏感信息泄露、基础设施即代码配置错误、软件成分分析漏洞和静态应用安全测试问题。该工具支持多种扫描类型,如仓库扫描、路径扫描和提交历史扫描,并提供忽略规则功能以排除特定结果。
该项目通过MCP协议实现了类似Claude Code的功能,提供代码理解、修改、命令执行等工具,支持多模型和Jupyter笔记本操作,具备安全控制和开发扩展能力。
Awesome MCP Security 是一个关于模型上下文协议(MCP)安全的资源集合,包括安全考虑、论文、视频、文章、工具和服务器等内容,旨在帮助用户了解和应对MCP相关的安全挑战。