CPU / GPU / NPU / TPU / DPU / APU 是什么,有什么区别
·
一、AI 芯片总体分类
按部署场景划分三大类:云端芯片、边缘芯片、终端芯片(AIPC、手机、IoT); 按计算架构:通用处理器(CPU)、并行处理器(GPU/APU)、专用 AI 加速器(NPU、TPU)、数据卸载处理器(DPU)。
核心逻辑:CPU 负责调度控制,GPU 做大批量矩阵并行训练 / 推理,NPU 专注低功耗神经网络推理;TPU 是谷歌专用张量 ASIC;DPU 负责网络、存储数据卸载;APU=CPU+GPU 紧耦合一体芯片
二、各处理器详解(定义、架构技术、应用、代表厂家)
1. CPU Central Processing Unit 中央处理器
- 技术架构:少量高性能大核,强大分支预测、缓存、串行逻辑运算单元;通用指令集(x86/ARM/RISC-V)。不是专门 AI 芯片,是 AI 系统的主控总指挥。AI 仅作为附加能力。
- AI 优势:通用性最强,擅长任务调度、I/O 控制、数据预处理、token 分词、复杂分支逻辑;可运行任意代码,兼容性最好。
- 短板:并行 MAC 计算单元少,大规模矩阵运算能效差,不适合大模型训练。
- 典型应用:服务器 / PC 操作系统、AI 任务编排、预处理、模型前后处理;AIPC 里负责 Copilot Runtime 调度。
- 厂家:Intel、AMD、龙芯、海光、ARM。
2. GPU Graphics Processing Unit 图形处理器
- 技术架构:大量轻量 ALU 计算核心,SIMT 单指令多线程架构;原生面向图像渲染,后来被改造做张量矩阵运算。分为独立 dGPU 与 SoC 内置 iGPU(AIPC 核显)。
- AI 优势:海量并行计算,生态最成熟(CUDA),FP16/FP8 浮点算力强,兼顾训练 + 推理。
- 短板:功耗高;串行逻辑弱;持续轻量后台 AI 任务能效不如 NPU。
- 典型应用:大模型训练、文生图、多模态推理、视频渲染;AIPC 中承担图像生成、中大模型本地推理。
- 厂家:NVIDIA(英伟达)、AMD、景嘉微、摩尔线程、沐曦。
3. APU Accelerated Processing Unit 加速处理器(AMD 定义)
- 技术架构:CPU+GPU 高度集成在同一颗 SoC 内,统一内存,紧耦合异构,不是简单拼接。AMD 最早提出 APU 概念。
注意区分:AIPC 是带 NPU 的 PC,APU ≠ AIPC;APU 只包含 CPU+GPU,原生不带 NPU(新一代 AMD Ryzen AI APU 才额外集成 XDNA NPU)。
- AI 优势:CPU、GPU 片内高速互联,数据不需要跨主板总线,内存共享,延迟低,适合 HPC、本地微调。
- 短板:早期 APU 没有独立 NPU,轻量 AI 推理功耗偏高。
- 典型应用:笔记本、台式机、嵌入式高性能计算;AMD Ryzen AI 系列(APU + 内置 NPU,也就是 AMD 方案 AIPC)。
- 厂家:AMD。
4. NPU Neural Processing Unit 神经网络处理器
- 技术架构:ASIC 专用架构,大量 MAC 乘加阵列,硬件固化卷积、矩阵乘、激活等神经网络算子,原生支持 INT4/INT8 低精度推理。专为深度学习推理设计。
- AI 优势:能效比最高,低功耗、低发热,适合长时间后台 AI 推理;片上流水线,延迟稳定。AIPC 核心新增单元。
- 短板:通用性差,算子固化,复杂非常规模型需要专门编译适配;不适合大规模训练。
- 典型应用:AIPC 本地 AI、手机 AI、安防摄像头、车载座舱、边缘网关;语音转写、OCR、人像分割、向量检索。
- 厂家 海外:Intel NPU、AMD XDNA、高通 Hexagon NPU、苹果 Neural Engine 国内:华为昇腾、寒武纪、地平线、壁仞、昆仑芯
5. TPU Tensor Processing Unit 张量处理器(Google 自研 ASIC)
- 技术架构:脉动阵列 Systolic Array,专门优化张量运算,深度绑定 TensorFlow 框架。
- AI 优势:大规模张量计算效率高,脉动阵列数据流减少访存开销,云端训推能效高。
- 短板:生态封闭,Google 私有,不支持 PyTorch 等通用框架,通用性差,无法在 PC / 终端使用。
- 典型应用:谷歌云数据中心,大模型训练、云端推理,仅谷歌内部业务使用。
- 厂家:Google(谷歌)
6. DPU Data Processing Unit 数据处理器
- 技术架构:网络 + 存储卸载专用芯片,集成高速网卡、RDMA、存储控制器、数据包处理单元;不做神经网络矩阵计算。
- AI 优势:把网络包解析、数据搬移、存储 IO 从 CPU 卸载,释放 CPU 算力,降低 AI 集群数据传输延迟。
- 短板:不做 AI 模型推理 / 训练,属于 AI 集群配套芯片。
- 典型应用:大型智算中心、AI 服务器集群、云数据中心,负责算力集群之间数据转发。
- 厂家:NVIDIA BlueField、AWS Nitro、云豹智能、中科驭数
三、汇总对比表(PPT 直接可用)
表格
| 芯片 | 全称 | 核心定位 | 核心技术 | 典型 AI 场景 | 代表厂商 |
|---|---|---|---|---|---|
| CPU | 中央处理器 | 通用调度、控制 | 串行大核,强分支 | 任务编排、预处理、系统控制 | Intel、AMD、龙芯 |
| GPU | 图形处理器 | 并行浮点算力主力 | SIMT、大量 ALU | 大模型训练、图像生成、多模态推理 | NVIDIA、AMD、景嘉微 |
| APU | 加速处理器 | CPU+GPU 紧耦合 SoC | CPU+GPU 同芯片统一内存 | 单机 HPC、本地微调(新款可集成 NPU) | AMD |
| NPU | 神经网络处理器 | 低功耗 AI 推理 | MAC 阵列,神经网络算子固化 | AIPC、手机、边缘实时 AI 推理 | Intel、AMD、高通、昇腾、寒武纪 |
| TPU | 张量处理器 | 谷歌专用张量 ASIC | 脉动阵列 | Google 云端大模型训推 | |
| DPU | 数据处理器 | 网络 / 存储卸载 | RDMA、数据包处理 | AI 集群高速数据转发 | NVIDIA、AWS、中科驭数 |
四、一句话总结(汇报结尾)
CPU 是控制器,GPU 是大算力并行引擎,NPU 是端侧低功耗 AI 加速器;APU 为 CPU+GPU 一体化 SoC;TPU 是谷歌封闭专用张量芯片;DPU 负责 AI 集群的数据搬运。AIPC 本质是在 APU/SoC 基础上,额外集成独立 NPU,构成 CPU+GPU+NPU 的异构算力平台,由 Copilot Runtime 自动分配 AI 任务。
openEuler 是由开放原子开源基金会孵化的全场景开源操作系统项目,面向数字基础设施四大核心场景(服务器、云计算、边缘计算、嵌入式),全面支持 ARM、x86、RISC-V、loongArch、PowerPC、SW-64 等多样性计算架构
更多推荐



所有评论(0)