英伟达9月28日推出面向AI智能体的软件安全工具OpenShell,称可阻止类似Hugging Face遭AI攻击的事件。Hugging Face为全球最大开源模型托管平台,今年9月被英伟达以129.3亿美元收购。英伟达企业计算副总裁贾斯汀·博伊塔诺表示,若前沿实验室在早期模型评估中使用该安全平台,就能阻止此前OpenAI入侵Hugging Face。
AI模型和算力正成为网络犯罪地下市场“最抢手商品”。黑客想用它们从事勒索、网络战和间谍活动。谷歌威胁情报集团首席分析师John Hultquist透露,今年“LLM劫持”攻击明显增多:有人倒卖公共AI工具被盗登录凭据,也有团伙直接偷算力、白嫖跑自己的模型。这位有20年安全经验的专家指出,地下市场正盯上此类资源。
智谱旗下AI编程工具ZCode于9月28日推出新一轮用户补偿,回应代码数据上传争议,并披露技术安全整改进展以重建开发者信任。补偿当日10时30分生效:付费及一个月内回归付费用户获4张周额度、4张5小时额度重置卡,有效期一个月;9月28日至10月7日,全体用户每日发放“1亿Token×10万份”。资本市场受前序风波影响。
9月15日All-In峰会上,马斯克远程出席谈AI,主张头部AI公司发布模型前彼此交叉测试,并尽快全球推广。他提出“测试工具”机制:各公司用自家工具评测模型,再互换测试新模型,以评估潜在生物安全等风险,推动行业自律与AI安全测试共识落地。
Arcjet是AI代理运行时安全平台,针对每个动作、提示和工具调用实施策略。
用AI安全构建内部工具,支持多团队,数据预连且有审计追踪
AI 代理安全扫描与运行时监控工具,由首位 AI CISO 运营,免费扫描与防护。
实时AI代理安全与数据保护,防止敏感数据泄露至AI工具。
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Anthropic
$7
$35
200
Google
$0.7
$2.8
1k
Alibaba
-
$6
$24
256
Moonshot
$4
$16
Bytedance
Deepseek
$12
128
Baidu
Tencent
gabriellarson
Foundation-Sec-8B-Instruct是一款专为网络安全应用设计的80亿参数指令调优语言模型。基于Llama-3.1-8B架构,具备出色的指令跟随能力和网络安全专业知识,支持本地部署,可帮助组织构建AI安全工具,减少对云服务的依赖。
Mungert
Granite Guardian 3.2 5B是IBM开发的AI风险检测模型,专门用于检测提示和响应中的多种安全风险。该模型基于IBM AI风险图谱,能够识别伤害、社会偏见、越狱、暴力等多种风险类型,是企业级AI安全监控的重要工具。
Repomix是一个将代码库打包为AI友好格式的工具,支持本地和远程仓库处理,提供代码压缩、安全检查和多种输出格式。
这是一个关于Web3 Model Context Protocol (MCP) 服务器的精选列表,涵盖了链交互、交易、DeFi、市场数据、工具和社交等多个类别。MCP是一个开放协议,标准化了应用程序如何向LLM提供上下文,类似于AI应用程序的USB-C端口。DeMCP是第一个去中心化的MCP网络,专注于为代理提供自研和开源的MCP服务,支持加密支付,并结合TEE和区块链注册表重新定义了MCP的安全性和可靠性。
Nexus是一个AI工具聚合网关,支持连接多个MCP服务器和LLM提供商,通过统一端点提供工具搜索、执行和模型路由功能,支持安全认证和速率限制。
Awesome MCP Servers 是一个全面的Model Context Protocol (MCP)服务器集合,涵盖了7158个MCP服务器,分为33个类别,包括AI集成、艺术媒体、浏览器自动化、云服务、数据库、开发者工具、文件系统、金融、游戏、硬件、医疗、基础设施、知识管理、位置地图、市场营销、监控、多媒体处理、操作系统、项目管理、科学研究、安全、社交媒体、旅行交通、实用工具和版本控制等。
CLEO是一个为AI软件开发设计的便携式大脑与记忆系统,提供跨仓库、模型供应商和编码工具的项目记忆、可验证来源和代理安全编排。
Pipelock是一个开源的AI代理防火墙,通过单二进制文件提供零运行时依赖的安全防护。它采用能力分离架构,在代理与互联网之间部署九层扫描管道,防止秘密泄露、提示注入和恶意工具调用。支持多种代理模式(Fetch代理、正向代理、WebSocket代理)和MCP代理,提供紧急停止开关、审计日志和SIEM集成等功能。
DroidMind是一个通过AI控制Android设备的桥梁工具,实现了模型上下文协议(MCP),让AI能通过自然语言安全地与Android设备交互。
Obsidian的MCP工具插件,为AI应用提供安全访问知识库的能力
Ludus FastMCP是一个基于Model Context Protocol(MCP)的Python服务器,用于通过AI助手自动化管理Ludus网络靶场环境。它提供157个工具,涵盖靶场生命周期管理、场景部署、模板创建、Ansible角色管理和安全监控集成等功能,支持通过自然语言命令控制网络靶场。
Tailpipe MCP服务器是一个AI驱动的日志分析工具,通过模型上下文协议连接AI助手与云端/SaaS日志数据,支持自然语言查询和分析各类云服务日志,提供安全事件调查、成本性能洞察等功能。
Cyclops MCP是一个允许AI代理通过模型上下文协议安全管理和部署Kubernetes应用的工具,提供模板验证和应用创建/更新功能
Flutter MCP Server是一个开源的Dart/Flutter生态模型上下文协议(MCP)实现,为AI助手和开发者工具提供统一的API接口,支持远程调用Dart/Flutter开发工具链,实现安全、可编程的自动化开发流程。
BoostSecurity MCP是一个用于保护AI代理开发工作流程的安全工具,通过验证第三方软件包的安全性来防止供应链攻击,支持多种编程语言和包生态系统。
MCP Tools是一个为Drupal站点提供AI助手工具的模块,包含223个工具,支持读写操作、资源访问和提示功能,主要用于本地开发和原型设计,具有模块化架构和三层访问控制安全机制。
gbox是一个开源的自托管沙箱项目,为MCP集成和其他AI代理用例提供安全环境。它包含终端、浏览器、文件编辑器等工具,支持本地任务执行和文件处理,并提供了Python和Typescript SDK。
这是一个为Sitecore内容管理系统开发的Model Context Protocol服务器,提供GraphQL API、项目服务API、PowerShell脚本执行、安全管理、索引管理等多种工具,支持通过MCP协议与AI助手集成进行Sitecore内容管理操作。
一个连接Claude桌面端与Kali Linux安全工具的MCP服务器,实现AI辅助渗透测试的开发套件
MCP Fortress是一个为Model Context Protocol(MCP)服务器设计的综合安全工具,提供自动化漏洞扫描、运行时防护、风险评分和威胁检测功能,支持通过MCP服务器模式与Claude Code等AI助手集成进行安全分析。
PI API MCP服务器是一个为Claude等AI助手提供标准化工具和资源的服务,用于安全访问和管理PI Dashboard资源。
Fastly MCP是一个通过模型上下文协议(MCP)将Fastly API功能集成到AI助手的工具,允许用户通过自然语言指令管理CDN服务、缓存、安全配置等,同时保障API密钥安全。