第2章：AI芯片基础：AI芯片的分类与关键指标
各位同学，今天我们来聊聊AI芯片。说实话，这个领域变化太快了，我每年都要更新一次自己的知识库。不过别担心，底层逻辑是不变的——搞懂了分类和指标，你就能看懂市面上任何一款AI芯片。
2.1 AI芯片的四大分类
AI芯片说白了，就是专门为神经网络计算设计的硬件。目前主流的有四种：GPU、FPGA、ASIC、NPU。我一个个讲，你一个个记。
2.1.1 GPU（图形处理器）
GPU最早是给游戏用的，后来发现它做矩阵运算特别快。为什么？因为它有上千个计算核心，天生适合并行计算。
我在2016年做第一个AI项目时，用的就是NVIDIA的GTX 1080。那时候训练一个图像分类模型，要跑三天三夜。现在想想，真是原始社会。
GPU的优点：
- 生态成熟，CUDA、cuDNN这些库太好用了
- 通用性强，什么模型都能跑
- 开发门槛低，Python调库就行
GPU的缺点：
- 功耗高，一块卡动不动300W+
- 价格贵，A100要十几万
- 不适合边缘端部署
2.1.2 FPGA（现场可编程门阵列）
FPGA是个有意思的东西。你可以把它理解成一块「乐高积木」——想搭什么电路就搭什么电路。
我有个朋友做工业视觉检测，一开始用GPU，功耗压不住。后来换成Xilinx的FPGA，功耗降了80%，延迟从50ms降到5ms。嗯，这就是FPGA的魅力。
FPGA的特点：
- 可重构，灵活性高
- 延迟极低，适合实时处理
- 功耗比GPU低很多
- 但开发难度大，要用Verilog/VHDL
2.1.3 ASIC（专用集成电路）
ASIC就是「定制芯片」。你想想看，GPU是万能的，ASIC是专能的。专能意味着什么？效率更高、功耗更低、成本更低（量大的话）。
Google的TPU就是典型的ASIC。我2018年去Google总部参观时，看到他们机房里密密麻麻的TPU，那个震撼啊。一块TPU v4的算力，顶得上几十块GPU。
ASIC的优缺点：
- 性能功耗比最优
- 量产成本低（百万片级别）
- 但开发周期长（12-18个月）
- 一次性工程费用高（几千万起步）
2.1.4 NPU（神经网络处理器）
NPU是ASIC的一个子类，专门为神经网络设计的。它跟通用ASIC的区别在于：NPU有专门的硬件单元来加速卷积、池化、激活函数这些操作。
华为的昇腾、寒武纪的思元，都是NPU。我去年用昇腾310做过一个边缘AI盒子，8W功耗就能跑ResNet-50，帧率30fps。换成GPU，功耗至少翻三倍。
2.2 关键指标：TOPS、功耗、精度
选芯片不能光看参数，但参数是基础。我一般看三个指标：算力、功耗、精度。
2.2.1 TOPS（万亿次操作每秒）
TOPS是衡量AI芯片算力的标准单位。1 TOPS = 每秒一万亿次操作。
但这里有个坑：不同厂商算TOPS的方式不一样。有的算MAC操作（乘加运算），有的算OP（操作）。我建议你统一看INT8的TOPS，因为边缘端大部分模型都用INT8量化。
| 芯片 | INT8 TOPS | 功耗 | 适用场景 |
|---|---|---|---|
| NVIDIA Jetson Orin | 275 | 15-60W | 边缘服务器 |
| 华为昇腾310 | 16 | 8W | 智能摄像头 |
| Google Edge TPU | 4 | 2W | IoT设备 |
2.2.2 功耗
功耗是边缘AI的命门。你想想看，一个摄像头模组，散热条件就那么差，功耗超过10W就得加风扇，加了风扇就容易坏。
我做过一个项目，客户要求整机功耗不超过5W。我们试了五六款芯片，最后选了瑞芯微的RK3588，4W功耗跑通了人脸识别。嗯，选芯片就像找对象，合适最重要。
2.2.3 精度
精度这块，我踩过坑。以前觉得INT8精度够用了，结果做医疗影像分析时，模型精度从FP32的98%掉到了INT8的92%。6个百分点的差距，在医疗领域就是大问题。
所以我的建议是：
- 对精度要求高的场景（医疗、金融），用FP16或FP32
- 对功耗敏感的场景（IoT、摄像头），用INT8
- 实在不行，用混合精度——关键层用FP16，非关键层用INT8
2.3 主流芯片厂商介绍
最后聊聊厂商。我按自己的经验，把主流厂商分成三个梯队：
第一梯队：NVIDIA
生态无敌，CUDA、TensorRT、DeepStream，一套组合拳下来，开发效率极高。但价格贵，功耗高。适合做边缘服务器，不适合做端侧设备。
第二梯队：华为、高通、联发科
华为的昇腾系列，在安防、交通领域用得很多。高通的骁龙系列，手机端AI的王者。联发科的Genio系列，性价比高，适合消费类产品。
第三梯队：寒武纪、地平线、瑞芯微
这些国产厂商，在特定领域很有竞争力。寒武纪的思元系列，适合云端推理。地平线的征程系列，主打自动驾驶。瑞芯微的RK系列，性价比极高，适合小批量产品。
好了，这一章就讲到这里。下一章我们聊聊AI芯片的硬件架构，看看这些芯片内部到底是怎么工作的。