Anthropic公司开发的Claude Mythos AI模型因网络安全能力过强而未公开发布,但遭黑客在测试期间非法获取。该事件凸显AI安全挑战,使注重安全的Anthropic陷入困境。
谷歌内部编程范式正经历深刻转变。CEO桑达尔·皮查伊透露,公司超75%的新代码已由AI自动生成,标志着“AI优先”战略取得实质性突破。不过,这些AI生成的代码仍需经专业工程师严格审核把关,确保质量与安全性。
腾讯云开源CubeSandbox,为AI Agent提供高效安全的执行环境底座。该沙箱服务实现硬件级隔离,启动速度达亚百毫秒级,并支持现有应用“零成本”迁移,显著提升开发效率与安全性。
火山引擎发布Seedance 2.0系列API服务,提供先进的视频生成技术,支持文本、图片、音频和视频四种输入方式,具备多模态内容创建与编辑能力,适用于复杂互动和动态场景。该服务旨在帮助企业及个人用户优化工作流程,探索创新应用,同时确保AI视频创作的合规性与安全性。
为产品和工程团队提供嵌入式分析解决方案,包括交互式仪表板、自助报告、Explo AI和企业级安全性。
实时保护您的AI代理,阻止越狱和注入攻击,确保安全性。
为AI驱动的应用程序提供细粒度权限管理,确保安全性和合规性。
AI Integrity解决方案,确保AI系统的安全性、合规性和性能
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Anthropic
$105
$525
200
Google
$0.7
$2.8
1k
$7
$35
$2.1
$17.5
$21
Alibaba
-
Baidu
128
$6
$24
256
Bytedance
$1.2
$3.6
4
$2
$3.9
$15.2
64
neuphonic
NeuTTS Air是世界上首个具备即时语音克隆功能的超逼真、端侧文本转语音(TTS)语言模型。基于0.5B参数的大语言模型骨干构建,能为本地设备带来自然的语音、实时性能、内置安全性和说话人克隆功能。
GeneralAnalysis
GA Guard Core是General Analysis开发的开源审核模型,专门用于检测和分类七类违规内容,包括非法活动、仇恨言论、个人信息泄露等,确保AI应用的安全性和合规性。
danielkty22
TARS-SFT-7B是一个基于监督微调的安全推理模型,作为强化学习训练的基础模型,专门设计用于增强AI系统的安全性。该模型从Qwen2.5-7B-Instruct开始训练,通过推理过程作为自适应防御机制来提升模型的安全性能。
aligner
一个与模型无关的即插即用模块,适用于开源和基于API的模型,采用残差校正策略增强AI安全性
这是一个关于Web3 Model Context Protocol (MCP) 服务器的精选列表,涵盖了链交互、交易、DeFi、市场数据、工具和社交等多个类别。MCP是一个开放协议,标准化了应用程序如何向LLM提供上下文,类似于AI应用程序的USB-C端口。DeMCP是第一个去中心化的MCP网络,专注于为代理提供自研和开源的MCP服务,支持加密支付,并结合TEE和区块链注册表重新定义了MCP的安全性和可靠性。
AIM Guard MCP是一个AI安全防护服务器,为AI代理提供安全分析、内容审查和防护指令,确保AI与各类MCP服务交互时的安全性。
BoostSecurity MCP是一个用于保护AI代理开发工作流程的安全工具,通过验证第三方软件包的安全性来防止供应链攻击,支持多种编程语言和包生态系统。
RegenNexus UAP是一个通用适配器协议,用于连接设备、机器人、应用和AI代理,提供低延迟、高安全性的通信,支持多种硬件和MCP集成。
SQLite MCP Server 是一个企业级SQLite数据库增强工具,提供73个专用工具,支持高级分析、JSON操作、文本处理、向量搜索、地理空间操作和智能工作流自动化,具备AI原生JSON操作和增强安全性。
LangCare MCP FHIR Server是一个企业级的MCP服务器,专为FHIR R4电子病历系统设计,使AI助手能够安全地访问和管理患者健康记录。它提供四种通用FHIR操作工具,内置40多种临床工作流指南和交互式UI应用,支持EPIC、Cerner和GCP等多种后端,采用Go语言编写,具备企业级安全性和HIPAA合规性。
一个用于AI代理在安装前检查软件包安全性的工具,提供允许/拒绝决策、风险评分和审计日志
CKB是一个将代码库转换为可查询知识库的工具,通过CLI、API或AI助手帮助开发者理解代码、分析影响、查找所有者和检测死代码,提升开发效率和安全性。
uMCP是一个专为Unity设计的MCP协议服务器实现,用于连接AI代理与Unity应用,具有安全性和可扩展性。
AWS MCP是一个通过自然语言管理AWS资源的AI工具,替代Amazon Q,提供更高灵活性和安全性。
这是一个企业级MCP服务器,将SAP OData服务与AI能力连接起来,提供增强的安全性、简化的配置、模块化认证和全面的云原生集成。
Authenticator App MCP Server是一个安全的MCP(模型上下文协议)服务器,使AI代理能够与Authenticator App交互,无缝获取2FA代码和密码,帮助自动化登录流程,同时保持安全性。
MemoraMCP是一个基于Next.js框架的AI代理存储项目,利用IPFS技术确保数据安全性和可验证性,支持自主部署。
该项目展示了一个基于AWS Bedrock的AI驱动自动化系统,能够理解自然语言支持请求,并通过独立的MCP服务器自动执行功能管理操作,具备企业级安全性和完整的测试覆盖。
CodePortal MCP是一个本地代码项目管理服务器,提供项目结构组织、AI模型访问和API密钥管理功能,注重安全性和自动化。
一个专业的MCP服务器,使AI助手能够监控网络服务、API和HTTP端点,具有企业级安全性。适用于DevOps、监控和确保服务正常运行。
Memoria是一个MCP服务器,通过分析Git历史记录来揭示代码文件之间的隐藏依赖关系,防止AI在重构代码时破坏功能。它完全在本地运行,无需上传代码到云端,通过检测文件之间的耦合关系、风险评分和过时依赖来确保代码修改的安全性。
MySQL MCP Server是一个实现Model Context Protocol(MCP)的服务组件,为AI应用与MySQL数据库之间提供安全、结构化的交互接口。它支持列出数据库表、读取表内容、执行SQL查询等功能,通过环境变量配置数据库连接,强调安全性和最小权限原则。
一个基于本地Ollama模型的AI代码审计服务器,通过Model Context Protocol (MCP)集成,提供多维度代码分析,包括安全性、完整性、性能、质量、架构、测试和文档检查。