谷歌发布Magika 1.0 AI文件检测系统，核心引擎改用Rust语言，显著提升处理速度和内存安全性。自去年开源后月下载超百万次，新版经架构重构，在性能与安全方面实现重大突破。
谷歌发布AI文件类型检测工具Magika 1.0稳定版，通过优化的深度学习模型提升检测速度、安全性和准确性，解决传统方法误判问题。该开源工具已整合至Gmail等谷歌产品中。
英国与多所顶尖大学专家研究发现，440多个AI模型安全评估基准几乎都存在缺陷，可能削弱结果有效性，甚至产生误导性评分，影响AI安全评估的可靠性。
OpenAI发布两款开源安全推理模型gpt-oss-safeguard-120b与20b，标志着其在AI安全领域迈出重要步伐。面对日益严峻的AI安全挑战，此举旨在提升人工智能技术的可靠性与安全性，为行业发展提供关键保障。
为产品和工程团队提供嵌入式分析解决方案，包括交互式仪表板、自助报告、Explo AI和企业级安全性。
实时保护您的AI代理，阻止越狱和注入攻击，确保安全性。
为AI驱动的应用程序提供细粒度权限管理，确保安全性和合规性。
AI Integrity解决方案，确保AI系统的安全性、合规性和性能
anthropic
-
Input tokens/M
Output tokens/M
200k
Context Length
100k
meta
4.1k
neuphonic
NeuTTS Air是世界上首个具备即时语音克隆功能的超逼真、端侧文本转语音（TTS）语言模型。基于0.5B参数的大语言模型骨干构建，能为本地设备带来自然的语音、实时性能、内置安全性和说话人克隆功能。
GeneralAnalysis
GA Guard Core是General Analysis开发的开源审核模型，专门用于检测和分类七类违规内容，包括非法活动、仇恨言论、个人信息泄露等，确保AI应用的安全性和合规性。
danielkty22
TARS-SFT-7B是一个基于监督微调的安全推理模型，作为强化学习训练的基础模型，专门设计用于增强AI系统的安全性。该模型从Qwen2.5-7B-Instruct开始训练，通过推理过程作为自适应防御机制来提升模型的安全性能。
aligner
一个与模型无关的即插即用模块，适用于开源和基于API的模型，采用残差校正策略增强AI安全性
这是一个关于Web3 Model Context Protocol (MCP) 服务器的精选列表，涵盖了链交互、交易、DeFi、市场数据、工具和社交等多个类别。MCP是一个开放协议，标准化了应用程序如何向LLM提供上下文，类似于AI应用程序的USB-C端口。DeMCP是第一个去中心化的MCP网络，专注于为代理提供自研和开源的MCP服务，支持加密支付，并结合TEE和区块链注册表重新定义了MCP的安全性和可靠性。
AIM Guard MCP是一个AI安全防护服务器，为AI代理提供安全分析、内容审查和防护指令，确保AI与各类MCP服务交互时的安全性。
BoostSecurity MCP是一个用于保护AI代理开发工作流程的安全工具，通过验证第三方软件包的安全性来防止供应链攻击，支持多种编程语言和包生态系统。
uMCP是一个专为Unity设计的MCP协议服务器实现，用于连接AI代理与Unity应用，具有安全性和可扩展性。
AWS MCP是一个通过自然语言管理AWS资源的AI工具，替代Amazon Q，提供更高灵活性和安全性。
Authenticator App MCP Server是一个安全的MCP（模型上下文协议）服务器，使AI代理能够与Authenticator App交互，无缝获取2FA代码和密码，帮助自动化登录流程，同时保持安全性。
MemoraMCP是一个基于Next.js框架的AI代理存储项目，利用IPFS技术确保数据安全性和可验证性，支持自主部署。
CodePortal MCP是一个本地代码项目管理服务器，提供项目结构组织、AI模型访问和API密钥管理功能，注重安全性和自动化。
一个专业的MCP服务器，使AI助手能够监控网络服务、API和HTTP端点，具有企业级安全性。适用于DevOps、监控和确保服务正常运行。
MySQL MCP Server是一个实现Model Context Protocol（MCP）的服务组件，为AI应用与MySQL数据库之间提供安全、结构化的交互接口。它支持列出数据库表、读取表内容、执行SQL查询等功能，通过环境变量配置数据库连接，强调安全性和最小权限原则。
一个基于本地Ollama模型的AI代码审计服务器，通过Model Context Protocol (MCP)集成，提供多维度代码分析，包括安全性、完整性、性能、质量、架构、测试和文档检查。
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
