OpenAI 与韩国人工智能安全研究所签署备忘录,将合作评估高级 AI 在网络安全等高风险领域的安全性。这是其继美、英、日后的第四次国家级安全协作,凸显了全球对 AI 安全评估的日益重视。
FreeBSD 项目启动“AI辅助漏洞发现项目”,获Linux基金会旗下Alpha-Omega提供的25万美元资助。资金支持方包括微软、AWS、谷歌、Anthropic和OpenAI等科技巨头,旨在利用前沿AI技术提升系统安全性。
SK海力士计划在非核心技术领域引入ChatGPT、Copilot等生成式AI,以重塑内部工作流程。CEO郭鲁正表示,公司正从安全性和系统架构角度评估外部大模型在办公与业务中的应用,旨在扩大AI生态的同时,保护核心工业技术。
OpenAI CEO山姆·奥尔特曼与首席科学家雅各布·帕霍茨基联合发文,宣布公司进入发展第三阶段,目标聚焦于普及先进AI技术并保障安全性。自Chat推出以来,OpenAI已走过三年半,历经技术研发与全球产品发布两阶段,未来将更注重技术普惠与安全可控。
为产品和工程团队提供嵌入式分析解决方案,包括交互式仪表板、自助报告、Explo AI和企业级安全性。
实时保护您的AI代理,阻止越狱和注入攻击,确保安全性。
为AI驱动的应用程序提供细粒度权限管理,确保安全性和合规性。
AI Integrity解决方案,确保AI系统的安全性、合规性和性能
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Anthropic
$105
$525
200
Google
$0.7
$2.8
1k
$7
$35
$2.1
$17.5
$21
Alibaba
-
$6
$24
256
Baidu
128
Bytedance
$1.2
$3.6
4
$2
$3.9
$15.2
64
neuphonic
NeuTTS Air是世界上首个具备即时语音克隆功能的超逼真、端侧文本转语音(TTS)语言模型。基于0.5B参数的大语言模型骨干构建,能为本地设备带来自然的语音、实时性能、内置安全性和说话人克隆功能。
GeneralAnalysis
GA Guard Core是General Analysis开发的开源审核模型,专门用于检测和分类七类违规内容,包括非法活动、仇恨言论、个人信息泄露等,确保AI应用的安全性和合规性。
danielkty22
TARS-SFT-7B是一个基于监督微调的安全推理模型,作为强化学习训练的基础模型,专门设计用于增强AI系统的安全性。该模型从Qwen2.5-7B-Instruct开始训练,通过推理过程作为自适应防御机制来提升模型的安全性能。
aligner
一个与模型无关的即插即用模块,适用于开源和基于API的模型,采用残差校正策略增强AI安全性
这是一个关于Web3 Model Context Protocol (MCP) 服务器的精选列表,涵盖了链交互、交易、DeFi、市场数据、工具和社交等多个类别。MCP是一个开放协议,标准化了应用程序如何向LLM提供上下文,类似于AI应用程序的USB-C端口。DeMCP是第一个去中心化的MCP网络,专注于为代理提供自研和开源的MCP服务,支持加密支付,并结合TEE和区块链注册表重新定义了MCP的安全性和可靠性。
BoostSecurity MCP是一个用于保护AI代理开发工作流程的安全工具,通过验证第三方软件包的安全性来防止供应链攻击,支持多种编程语言和包生态系统。
AIM Guard MCP是一个AI安全防护服务器,为AI代理提供安全分析、内容审查和防护指令,确保AI与各类MCP服务交互时的安全性。
RegenNexus UAP是一个通用适配器协议,用于连接设备、机器人、应用和AI代理,提供低延迟、高安全性的通信,支持多种硬件和MCP集成。
SQLite MCP Server 是一个企业级SQLite数据库增强工具,提供73个专用工具,支持高级分析、JSON操作、文本处理、向量搜索、地理空间操作和智能工作流自动化,具备AI原生JSON操作和增强安全性。
LangCare MCP FHIR Server是一个企业级的MCP服务器,专为FHIR R4电子病历系统设计,使AI助手能够安全地访问和管理患者健康记录。它提供四种通用FHIR操作工具,内置40多种临床工作流指南和交互式UI应用,支持EPIC、Cerner和GCP等多种后端,采用Go语言编写,具备企业级安全性和HIPAA合规性。
一个用于AI代理在安装前检查软件包安全性的工具,提供允许/拒绝决策、风险评分和审计日志
CKB是一个将代码库转换为可查询知识库的工具,通过CLI、API或AI助手帮助开发者理解代码、分析影响、查找所有者和检测死代码,提升开发效率和安全性。
uMCP是一个专为Unity设计的MCP协议服务器实现,用于连接AI代理与Unity应用,具有安全性和可扩展性。
这是一个企业级MCP服务器,将SAP OData服务与AI能力连接起来,提供增强的安全性、简化的配置、模块化认证和全面的云原生集成。
AWS MCP是一个通过自然语言管理AWS资源的AI工具,替代Amazon Q,提供更高灵活性和安全性。
Authenticator App MCP Server是一个安全的MCP(模型上下文协议)服务器,使AI代理能够与Authenticator App交互,无缝获取2FA代码和密码,帮助自动化登录流程,同时保持安全性。
MemoraMCP是一个基于Next.js框架的AI代理存储项目,利用IPFS技术确保数据安全性和可验证性,支持自主部署。
该项目展示了一个基于AWS Bedrock的AI驱动自动化系统,能够理解自然语言支持请求,并通过独立的MCP服务器自动执行功能管理操作,具备企业级安全性和完整的测试覆盖。
一个专业的MCP服务器,使AI助手能够监控网络服务、API和HTTP端点,具有企业级安全性。适用于DevOps、监控和确保服务正常运行。
CodePortal MCP是一个本地代码项目管理服务器,提供项目结构组织、AI模型访问和API密钥管理功能,注重安全性和自动化。
Memoria是一个MCP服务器,通过分析Git历史记录来揭示代码文件之间的隐藏依赖关系,防止AI在重构代码时破坏功能。它完全在本地运行,无需上传代码到云端,通过检测文件之间的耦合关系、风险评分和过时依赖来确保代码修改的安全性。
MySQL MCP Server是一个实现Model Context Protocol(MCP)的服务组件,为AI应用与MySQL数据库之间提供安全、结构化的交互接口。它支持列出数据库表、读取表内容、执行SQL查询等功能,通过环境变量配置数据库连接,强调安全性和最小权限原则。
一个基于本地Ollama模型的AI代码审计服务器,通过Model Context Protocol (MCP)集成,提供多维度代码分析,包括安全性、完整性、性能、质量、架构、测试和文档检查。