Push Security警示:黑客利用OpenAI组织邀请机制发动精准钓鱼。攻击者先创建与企业同名的虚假组织,再通过OpenAI官方邮件向员工发送邀请,由于邮件源自信任域,可绕过传统安全过滤。员工被诱导加入后,即进入受控的“合法”AI工作空间,面临数据泄露风险。该社工手段凸显了基于身份验证的新型威胁。
翁荔回归万字长文《Scaling Laws, Carefully》拆解大模型规模定律,直指行业共识可能写反:从Kaplan到Chinchilla,主流数据配比未必最优。文章细究算力、模型大小与数据量的权衡,暗示数百亿美元押注的路径或需彻底反思,引发从业者重新审视预训练配方的有效性。
Meta因内部数据泄露,紧急暂停“模型能力计划”AI训练项目。该项目通过记录员工键盘鼠标数据训练模型,泄露事故致私人对话、绩效数据及语音转文字记录等敏感信息意外公开,公司被迫叫停。
纽约AWS峰会上,亚马逊推出Continuum和Context两大服务,解决AI智能体生产部署的安全风险与背景匮乏。Continuum自动修复代码漏洞,按业务影响排序、隔离验证后补救;Context用企业数据生成共享知识图谱。
Nightfall是一体化数据防泄漏和AI数据安全平台,防止数据泄露。
Polymer是数据安全态势管理平台,保障AI和SaaS生态数据安全。
数据防丢失、发现与管理平台,保障SaaS、云、浏览器和GenAI安全
为AI模型、应用和代理定义并部署灵活的数据安全威胁管理和治理
Openai
-
输入tokens/百万
输出tokens/百万
上下文长度
Anthropic
$105
$525
200
$7
$35
$21
Google
$0.7
$2.8
1k
Alibaba
$6
$24
256
$8
$240
52
Moonshot
$4
$16
Baidu
32
$8.75
$70
400
$1.75
$14
$0.35
Tencent
24
Xai
Huawei
128
ibm-granite
Granite-4.0-H-Tiny是IBM开发的70亿参数长上下文指令模型,基于Granite-4.0-H-Tiny-Base微调而来。该模型结合开源指令数据集和内部合成数据集训练,具备专业、准确、安全的回复能力,支持多语言和工具调用,适用于企业级应用。
quelmap
Lightning-4b 是一款专为本地设备数据分析任务设计和训练的语言模型,可在配备16GB内存的笔记本电脑上流畅运行,无需将数据发送给大型语言模型提供商,确保数据隐私和安全。
HugoHE
M-Hood 是一系列专门设计用于缓解目标检测中幻觉现象的模型,通过新颖的微调策略和修正的基准数据集,显著减少分布外数据上的误报,提升目标检测系统的安全性和可靠性。
sds-ai
小熠是由广州熠数信息技术有限公司开发的专注于数据安全领域的AI专家系统,基于Qwen3-1.7B大语言模型构建,提供数据分类分级、安全审计、防护检测等专业能力。
iqbalamo93
Phi-4-mini-instruct是一个轻量级的开放模型,基于合成数据和经过筛选的公开网站数据构建,专注于高质量、富含推理的数据。该模型支持128K令牌上下文长度,经过监督微调和直接偏好优化,具备精确的指令遵循能力和强大的安全措施。
Mungert
Phi-4-mini-instruct是微软推出的轻量级开源语言模型,拥有38亿参数。该模型基于合成数据和经过筛选的公开网站数据构建,特别注重高质量、富含推理的数据。支持128K令牌的上下文长度,经过监督微调和直接偏好优化,具备精确的指令遵循能力和强大的安全措施。
lunahr
Phi-4-mini-instruct是基于合成数据和精选公开网站构建的轻量级开源模型,专注于高质量、强推理能力的数据。支持128K令牌上下文长度,通过监督微调和直接偏好优化进行增强,以确保精准的指令遵循和安全性。
Foreshhh
Qwen2-VL-7B-Instruct 是一个基于 SafeRLHF 数据集微调的多模态大语言模型,专注于视觉问答任务,并强调安全性。
基于Qwen2-VL-7B模型在VLGuard数据集上微调的多模态视觉语言模型,专注于安全相关的视觉问答任务。
prem-research
Prem-1B-SQL是由Prem AI开发的首个全本地文本到SQL模型系列之一,拥有10亿参数,专为低配置GPU设备设计,量化后可在CPU上运行。该模型优先考虑本地化部署,避免数据安全风险,适用于企业级SQL查询生成。
BananaFish45
这是一个专门用于检测文档中个人数据的模型,能够识别包括姓名、地址、电话号码、身份证号等12类常见个人敏感信息,帮助用户进行数据隐私保护和安全审查。
AIML-TUDA
LlavaGuard是基于视觉语言模型的数据集安全评估与保障框架,主要用于内容安全评估。
Retr0REG
这是一个专门用于演示llama-cpp-python库中GGUF模型格式元数据存在的服务器端模板注入漏洞的概念验证模型。该模型展示了如何通过恶意构造的模型元数据实现远程代码执行,帮助安全研究人员理解和防范此类安全风险。
claudios
VulBERTa MLP Devign是基于MLP分类头的源代码漏洞检测模型,在CodeXGlue Devign数据集上训练,专门用于检测C/C++代码中的安全漏洞。该模型简化了标记化过程,在多个数据集上表现出色。
Bojun-Feng
Tinyllama 1.1B Chat v1.0 是一个轻量级的大语言模型,采用创新的 llamafile 格式分发,将模型和运行环境打包成单个可执行文件,无需安装即可在本地运行,确保数据安全不外泄。
PKU-Alignment
Beaver成本模型是基于PKU-SafeRLHF数据集训练而成的偏好模型,用于在安全RLHF算法中评估模型输出的安全性。
基于PKU-SafeRLHF数据集训练的偏好模型,用于安全RLHF算法中帮助Beaver模型优化
FredZhang7
一个专注于动漫领域的提示生成模型,基于大量安全的动漫提示数据进行训练,能够生成高质量、富有创意的动漫相关提示。
tomh
ToxiGen是一个专门用于检测隐式仇恨言论的文本分类模型,基于大规模机器生成的数据集训练而成。该模型能够识别那些表面上看似无害但隐含仇恨含义的文本内容,为内容审核和社交媒体安全提供了有效的技术解决方案。
MCP-Shield是一款用于扫描MCP服务器漏洞的安全工具,可检测工具投毒攻击、数据泄露通道和跨域违规等安全风险。
这是一个关于Web3 Model Context Protocol (MCP) 服务器的精选列表,涵盖了链交互、交易、DeFi、市场数据、工具和社交等多个类别。MCP是一个开放协议,标准化了应用程序如何向LLM提供上下文,类似于AI应用程序的USB-C端口。DeMCP是第一个去中心化的MCP网络,专注于为代理提供自研和开源的MCP服务,支持加密支付,并结合TEE和区块链注册表重新定义了MCP的安全性和可靠性。
MCP MongoDB服务器是一个模型上下文协议服务,允许LLM与MongoDB数据库交互,提供集合模式检查、查询执行和智能ID处理等功能,支持只读模式和安全配置。
Security Detections MCP 是一个基于Model Context Protocol的服务器,允许LLM查询统一的安全检测规则数据库,涵盖Sigma、Splunk ESCU、Elastic和KQL格式。最新3.0版本升级为自主检测工程平台,可自动从威胁情报中提取TTPs、分析覆盖差距、生成SIEM原生格式检测规则、运行测试并验证。项目包含71+工具、11个预构建工作流提示和知识图谱系统,支持多SIEM平台。
BloodHound-MCP是将Model Context Protocol(MCP)服务器与BloodHound集成的项目,通过自然语言分析Active Directory安全数据。
Awesome MCP Servers 是一个全面的Model Context Protocol (MCP)服务器集合,涵盖了7158个MCP服务器,分为33个类别,包括AI集成、艺术媒体、浏览器自动化、云服务、数据库、开发者工具、文件系统、金融、游戏、硬件、医疗、基础设施、知识管理、位置地图、市场营销、监控、多媒体处理、操作系统、项目管理、科学研究、安全、社交媒体、旅行交通、实用工具和版本控制等。
这是一个实现MCP代码执行模式的服务器,通过单工具桥接和零上下文发现机制,将MCP工具调用开销从数万token降至约200token,并在根容器中安全执行Python代码,支持数据科学和安全隔离。
Postgres MCP Pro 是一个开源 MCP 服务器,为 AI 代理提供数据库索引调优、执行计划分析、健康检查和安全 SQL 执行等全方位支持。
一个为libSQL数据库提供安全访问的MCP服务器,支持通过Claude等客户端进行数据库操作,具备全面的安全验证和多种数据库管理功能。
LinkedInMCP是一个创新的模型上下文协议服务器,旨在改变开发者与LinkedIn API的交互方式,提供智能、安全的LinkedIn数据检索和交互框架。
SpotDB是一个轻量级数据沙箱,为AI工作流和数据探索提供安全隔离的临时数据库环境,支持快照恢复和多种API访问
CyberMCP是一个基于MCP协议的网络安全测试服务器,专注于检测后端API的安全漏洞,提供认证测试、注入测试、数据泄露检测等多种安全工具和资源。
一个基于FastMCP框架的SQLite数据库只读访问MCP服务器,为LLM提供安全的数据查询服务
Tailpipe MCP服务器是一个AI驱动的日志分析工具,通过模型上下文协议连接AI助手与云端/SaaS日志数据,支持自然语言查询和分析各类云服务日志,提供安全事件调查、成本性能洞察等功能。
Brex MCP服务器是一个连接AI代理与Brex金融平台的桥梁,提供财务数据交互功能。
该项目实现了一个基于pyATS和Genie的MCP服务器,通过JSON-RPC 2.0协议提供结构化、模型驱动的网络设备交互能力,支持安全执行CLI命令、配置变更及数据采集,适用于容器化或LangGraph集成场景。
一个提供全面SQLite数据库操作的MCP服务器,支持数据库管理、表操作、查询执行、事务管理和模式导入导出等功能,具备多层安全防护和工具分类机制。
基于KùzuDB图数据库的分布式内存银行MCP实现,支持仓库和分支隔离,提供AI驱动的内存优化、安全快照和智能分析功能
MariaDB/MySQL数据库访问MCP服务,提供安全的只读数据库查询功能,包括数据库列表、表结构查看和SQL查询执行。
一个基于FastMCP框架的iMessage查询服务器,提供安全访问和分析iMessage数据库的功能。