高通在骁龙峰会上发布骁龙8 Elite Gen6与骁龙8 Elite Extreme Gen6两款旗舰处理器,主打AI赋能,增强端侧智能算力,推动AI代理在手机端深度个性化应用。新芯片搭载全新传感中枢,可运行高达2.0亿参数的小型模型,提升本地大模型支持能力。
雷神发布AI移动工作站M7000,9月21日开售,国补价1.99万元。号称可端侧运行1200亿参数大模型,机身重2.45kg,面向创作、开发、科研、涉密四大场景,搭载AMD锐龙AI芯片。
vivo发布智能体大模型矩阵,涵盖语音、端侧、云侧等四款核心模型,全面赋能终端智能化体验。同时预研蓝心30B MoE端侧大模型,探索万亿级能力落地手机,提升多模态理解、长链推理与复杂任务自主执行,并同步推进软件与系统生态建设。
惠普发布全新移动工作站ZBook Ultra G3a16,主打端侧AI算力。其搭载AMD锐龙AI Max PRO400“Gorgon Halo”处理器,最高支持192GB统一内存,并可将其中160GB分配为独立显存,面向专业极客与高端开发者,强化本地大模型运行能力。
腾讯推出的更懂你的24小时在线AI助手,支持端侧大模型隐私模式与手机深度遥控电脑。
端侧全模态理解模型,软硬协同释放无穹端侧智能
端侧全模态理解开源模型
端侧可用的GPT-4V级多模态大模型
Openai
$2.8
Input tokens/M
$11.2
Output tokens/M
1k
Context Length
Google
$0.49
$2.1
Xai
$1.4
$3.5
2k
$7.7
$30.8
200
-
Anthropic
$105
$525
$0.7
$7
$35
$17.5
$21
Alibaba
$4
$16
$1
$10
256
$6
$24
$2
$20
Baidu
128
Bytedance
$1.2
$3.6
4
$3.9
$15.2
64
pnnbao-ump
VieNeu-TTS-1000h是一款先进的越南语端侧文本转语音模型,基于约1000小时高质量越南语语音数据训练,具备即时语音克隆功能,支持越南语与英语的无缝切换,能在CPU或GPU上实时合成24kHz波形。
neuphonic
NeuTTS Air是世界上首个具备即时语音克隆功能的超逼真、端侧文本转语音(TTS)语言模型。基于0.5B参数的大语言模型骨干构建,能为本地设备带来自然的语音、实时性能、内置安全性和说话人克隆功能。
Mungert
MiniCPM4.1-8B GGUF是专为端侧设备设计的高效大语言模型,在模型架构、训练数据、训练算法和推理系统四个关键维度进行了系统创新,实现了极致的效率提升。支持65,536个标记的上下文长度和混合推理模式。
openbmb
MiniCPM4.1-8B-GGUF是MiniCPM4.1-8B模型的GGUF量化格式版本,专为端侧设备设计的高效大语言模型,采用80亿参数,支持融合思维,在典型端侧芯片上可实现超过5倍的生成加速。
MiniCPM4-8B是专为端侧设备设计的高效大语言模型,通过模型架构、训练数据、训练算法和推理系统四个维度的创新,实现了极致的效率提升。
MiniCPM4 是一款专为端侧设备设计的高效大语言模型,在相同规模下保持最优性能的同时实现了极致的效率提升,在典型端侧芯片上可实现超 5 倍的生成加速。
MiniCPM4是专为端侧设备设计的高效大语言模型,在相同规模下实现了极致的效率提升和最优性能。
MiniCPM4-MCP是一款开源的端侧大语言模型智能体模型,基于80亿参数的MiniCPM-4构建,能够通过MCP与各种工具和数据资源交互,解决广泛的现实世界任务。
MiniCPM4是专为端侧设备设计的高效大语言模型,通过系统创新在模型架构、训练数据、训练算法和推理系统四个关键维度实现极致的效率提升。
MiniCPM4是专为端侧设备设计的高效大语言模型,通过系统创新在模型架构、训练数据、训练算法和推理系统四个维度实现极致效率提升,在端侧芯片上可实现超5倍的生成加速。
Infinigence
Megrez-3B是由无问芯穹完全自主训练的大语言模型,通过软硬协同理念,打造出极速推理、小巧精悍、极易上手的端侧智能解决方案。该模型将14B模型的能力压缩进3B大小的模型中,在主流榜单上取得了优异的性能表现。
NexaAIDev
全球最快、最高效的端侧部署音频语言模型,2.6B参数的多模态模型,可同时处理文本和音频输入。
facebook
MobileLLM是Meta开发的优化Transformer架构语言模型,专为资源受限的端侧应用设计,参数规模从125M到1.5B不等。
MiniCPM是面壁智能与清华大学自然语言处理实验室联合研发的端侧大语言模型系列,核心模型仅含12亿非词嵌入参数,在多项评测中超越更大规模的开源模型。
MiniCPM是由面壁智能与清华大学自然语言处理实验室联合开发的端侧大语言模型,非词嵌入参数量仅24亿(2.4B),支持128k上下文窗口。
MiniCPM是由面壁智能与清华大学自然语言处理实验室联合开源的一系列端侧大语言模型,核心语言模型MiniCPM-2B仅含24亿非词嵌入参数。
MiniCPM 是面壁智能与清华大学自然语言处理实验室共同开源的系列端侧语言大模型,主体语言模型 MiniCPM-2B 仅有 24亿(2.4B)的非词嵌入参数量。