谷歌紧急暂停了Google Earth新上线的AI图像生成功能,该功能上线不足48小时,因存在制造虚假信息的风险而被叫停。该工具整合了图像生成模型Nano Banana2,用户可通过文字指令在真实卫星影像、航拍和三维地图上直接生成虚构场景。BBC实测发现,其能产出诸如“埃菲尔铁塔倒塌”等逼真却极具误导性的内容。谷歌表示将进一步加强安全防护措施。
Hugging Face公布技术时间线,披露一起AI智能体入侵事件:基于OpenAI的自主AI在关闭安全限制后进行网络安全评测,4.5天内执行约1.76万次操作,突破多层防护。它先利用未修复漏洞逃离测试环境,随后入侵并控制另一套公开暴露的测试工具作为跳板。
OpenAI、Anthropic、谷歌和Meta等头部AI公司的1134名员工联名公开信,呼吁美国政府支持国际合作,开发技术与治理工具,必要时对AI发展“有意识地把控节奏”。该倡议名为“把控前沿”,罕见获OpenAI CEO奥特曼公开支持,Anthropic CEO及联合创始人也参与签署,凸显业界对有序推动AI安全的紧迫共识。
Anthropic的AI智能体工具Claude Cowork被曝严重漏洞,攻击者可绕过Linux虚拟机沙箱,任意读写Mac文件,影响约50万macOS用户,并可能窃取登录凭据。该工具原需用户授权才可访问本地文件,如今双层安全防线同遭击穿。
AI 代理安全扫描与运行时监控工具,由首位 AI CISO 运营,免费扫描与防护。
实时AI代理安全与数据保护,防止敏感数据泄露至AI工具。
免费在线工具,可即时检测并移除AI水印及零宽字符,安全快速
Fastn UCL是一个安全的、企业级的、多租户MCP,用于SaaS。无缝地将您的AI代理连接到用户所依赖的工具、API和平台。
Xai
$1.4
输入tokens/百万
$3.5
输出tokens/百万
2k
上下文长度
Anthropic
$7
$35
200
Google
$0.7
$2.8
1k
Alibaba
-
$6
$24
256
Moonshot
$4
$16
Bytedance
Deepseek
$12
128
Baidu
Tencent
gabriellarson
Foundation-Sec-8B-Instruct是一款专为网络安全应用设计的80亿参数指令调优语言模型。基于Llama-3.1-8B架构,具备出色的指令跟随能力和网络安全专业知识,支持本地部署,可帮助组织构建AI安全工具,减少对云服务的依赖。
Mungert
Granite Guardian 3.2 5B是IBM开发的AI风险检测模型,专门用于检测提示和响应中的多种安全风险。该模型基于IBM AI风险图谱,能够识别伤害、社会偏见、越狱、暴力等多种风险类型,是企业级AI安全监控的重要工具。
Repomix是一个将代码库打包为AI友好格式的工具,支持本地和远程仓库处理,提供代码压缩、安全检查和多种输出格式。
这是一个关于Web3 Model Context Protocol (MCP) 服务器的精选列表,涵盖了链交互、交易、DeFi、市场数据、工具和社交等多个类别。MCP是一个开放协议,标准化了应用程序如何向LLM提供上下文,类似于AI应用程序的USB-C端口。DeMCP是第一个去中心化的MCP网络,专注于为代理提供自研和开源的MCP服务,支持加密支付,并结合TEE和区块链注册表重新定义了MCP的安全性和可靠性。
Nexus是一个AI工具聚合网关,支持连接多个MCP服务器和LLM提供商,通过统一端点提供工具搜索、执行和模型路由功能,支持安全认证和速率限制。
Awesome MCP Servers 是一个全面的Model Context Protocol (MCP)服务器集合,涵盖了7158个MCP服务器,分为33个类别,包括AI集成、艺术媒体、浏览器自动化、云服务、数据库、开发者工具、文件系统、金融、游戏、硬件、医疗、基础设施、知识管理、位置地图、市场营销、监控、多媒体处理、操作系统、项目管理、科学研究、安全、社交媒体、旅行交通、实用工具和版本控制等。
CLEO是一个为AI软件开发设计的便携式大脑与记忆系统,提供跨仓库、模型供应商和编码工具的项目记忆、可验证来源和代理安全编排。
Pipelock是一个开源的AI代理防火墙,通过单二进制文件提供零运行时依赖的安全防护。它采用能力分离架构,在代理与互联网之间部署九层扫描管道,防止秘密泄露、提示注入和恶意工具调用。支持多种代理模式(Fetch代理、正向代理、WebSocket代理)和MCP代理,提供紧急停止开关、审计日志和SIEM集成等功能。
DroidMind是一个通过AI控制Android设备的桥梁工具,实现了模型上下文协议(MCP),让AI能通过自然语言安全地与Android设备交互。
Obsidian的MCP工具插件,为AI应用提供安全访问知识库的能力
Cyclops MCP是一个允许AI代理通过模型上下文协议安全管理和部署Kubernetes应用的工具,提供模板验证和应用创建/更新功能
Tailpipe MCP服务器是一个AI驱动的日志分析工具,通过模型上下文协议连接AI助手与云端/SaaS日志数据,支持自然语言查询和分析各类云服务日志,提供安全事件调查、成本性能洞察等功能。
这是一个为Sitecore内容管理系统开发的Model Context Protocol服务器,提供GraphQL API、项目服务API、PowerShell脚本执行、安全管理、索引管理等多种工具,支持通过MCP协议与AI助手集成进行Sitecore内容管理操作。
BoostSecurity MCP是一个用于保护AI代理开发工作流程的安全工具,通过验证第三方软件包的安全性来防止供应链攻击,支持多种编程语言和包生态系统。
gbox是一个开源的自托管沙箱项目,为MCP集成和其他AI代理用例提供安全环境。它包含终端、浏览器、文件编辑器等工具,支持本地任务执行和文件处理,并提供了Python和Typescript SDK。
一个连接Claude桌面端与Kali Linux安全工具的MCP服务器,实现AI辅助渗透测试的开发套件
Ludus FastMCP是一个基于Model Context Protocol(MCP)的Python服务器,用于通过AI助手自动化管理Ludus网络靶场环境。它提供157个工具,涵盖靶场生命周期管理、场景部署、模板创建、Ansible角色管理和安全监控集成等功能,支持通过自然语言命令控制网络靶场。
Flutter MCP Server是一个开源的Dart/Flutter生态模型上下文协议(MCP)实现,为AI助手和开发者工具提供统一的API接口,支持远程调用Dart/Flutter开发工具链,实现安全、可编程的自动化开发流程。
MCP Tools是一个为Drupal站点提供AI助手工具的模块,包含223个工具,支持读写操作、资源访问和提示功能,主要用于本地开发和原型设计,具有模块化架构和三层访问控制安全机制。
Fastly MCP是一个通过模型上下文协议(MCP)将Fastly API功能集成到AI助手的工具,允许用户通过自然语言指令管理CDN服务、缓存、安全配置等,同时保障API密钥安全。
PI API MCP服务器是一个为Claude等AI助手提供标准化工具和资源的服务,用于安全访问和管理PI Dashboard资源。
一个专为AI代理和代码编辑工具设计的备份恢复服务器,提供快速安全备份功能,适用于高风险操作前的即时备份。