三星电子正加速布局AI PC芯片,其自研加速处理器代号“GAIA”计划2027年量产。该芯片由系统LSI事业部主导,基于4nm工艺,核心围绕NPU设计,专注生成式AI任务加速。原型已送测联想、惠普等厂商,进入性能验证阶段。
三星推出代号“GAIA”的生成式AI加速芯片,以专用NPU切入AI PC市场。该芯片采用4纳米工艺和“存储中心型”架构设计,已向联想、惠普等厂商提供原型验证,目标2027年量产,是三星移动NPU技术向PC场景的延伸。
谷歌在2026年I/O大会上发布全新Coral Board开发板,一款专为端侧AI设计的紧凑型单板计算机。核心采用基于RISC-V架构的开源Coral NPU,搭载Synaptics Astra SL2619芯片,配备2GHz双核处理器与2GB内存,具备1TOPS本地算力,主要面向耳机、AR眼镜及智能手表等小型设备,旨在解决AI加速器碎片化问题。
谷歌等科技巨头正竞逐本地运行大模型的新赛道。谷歌宣布将于2026年夏季推出珊瑚AI开发板,内置高性能NPU芯片,提供高达1TOPS算力,使AI硬件开发者无需依赖云端和网络,即可在本地无网环境下流畅运行大模型。
新一代骁龙X系列,搭载NPU,为创作者带来革新工具。
构建零成本的设备端AI。
英特尔神经处理单元加速库
Openai
$0.63
输入tokens/百万
$3.15
输出tokens/百万
131
上下文长度
Alibaba
-
Google
$0.14
$0.28
$0.35
$0.7
$1.4
Deepseek
$1
8
$2
128
NexaAI
Qwen3-VL-4B-Instruct是阿里云Qwen团队推出的40亿参数指令调优多模态大语言模型,专为高通NPU优化,融合强大的视觉语言理解能力与对话微调功能,适用于聊天推理、文档分析和视觉对话等实际应用场景。
amd
Llama-3.1-8B-onnx-ryzenai-npu是由AMD基于Meta的Llama-3.1-8B模型开发的优化版本,专门针对AMD Ryzen AI NPU进行优化部署。该模型通过Quark量化、OGA模型构建器和NPU专用后处理技术,在保持高质量文本生成能力的同时,显著提升了在AMD硬件上的推理效率。
OmniNeural是全球首个专门为神经处理单元(NPU)设计的全多模态模型,能够原生理解文本、图像和音频,可在PC、移动设备、汽车、物联网和机器人等多种设备上运行。
FastFlowLM
这是基于Meta AI的LLaMA 3.1基础模型的衍生模型,专门针对AMD Ryzen™ AI NPU上的FastFlowLM进行了优化,仅适用于XDNA2架构。模型保留了Meta发布的核心架构和权重,可能针对特定应用进行了微调、量化或适配。
这是Meta AI发布的LLaMA 3.2 1B Instruct模型的优化变体,专门针对AMD Ryzen™ AI NPU(XDNA2架构)上的FastFlowLM进行优化。模型保留了原始架构和权重,通过量化、底层调优等技术提升在NPU上的运行效率。
stabilityai
AMD Ryzen™ AI优化版SDXL-Turbo,全球首个采用Block FP16格式的文本生成图像模型,专为AMD XDNA™ 2 NPU设计
c01zaut
MiniCPM-V 2.6是支持单图、多图和视频理解的GPT-4V级别多模态大语言模型,专为RK3588 NPU优化
Phi-3.5-mini-instruct是微软开发的高效小型语言模型,采用先进的量化技术优化,专为NPU部署设计。该模型在文本生成任务中表现出色,支持自然语言处理和代码相关场景。
本项目基于Meta-Llama-3-8B模型,采用Quark量化技术,结合OGA模型构建器,并进行后处理以适配NPU部署,可用于文本生成任务。该模型专为AMD NPU硬件优化,支持高效的推理部署。
Pelochus
本仓库收集了通过瑞芯微rkllm工具包适配的各类大语言模型,专为RK3588 NPU转换的模型。