1. 嵌入式GPU概述：GPU架构演进、嵌入式GPU vs 桌面GPU、主流嵌入式GPU平台介绍
大家好，我是你们的嵌入式GPU课程讲师。今天咱们聊聊嵌入式GPU的“前世今生”。说实话，我最早接触GPU还是大学那会儿，用着桌面级的显卡打游戏。后来入了嵌入式的坑，才发现这玩意儿在移动端、边缘端完全是另一套玩法。
你想想看，一个巴掌大的开发板，要跑实时图像处理，还要控制功耗。这跟桌面级显卡那种“大力出奇迹”的思路，完全是两码事。嗯，咱们先从最基础的架构说起。
1.1 GPU架构演进：从固定管线到统一计算
早期的GPU，说白了就是个“专用硬件”。它只干一件事：画三角形、贴纹理。那时候叫固定功能管线，你没法编程，只能调参数。
后来大家发现，这太死板了。于是有了可编程着色器。我记得2006年左右，NVIDIA推出了GeForce 8800，第一次把顶点着色器和像素着色器统一起来。这就是统一着色器架构的雏形。
为什么会这样？因为游戏和图形应用越来越复杂。固定管线就像一把螺丝刀，只能拧螺丝。统一架构就像一把瑞士军刀，什么都能干。
到了嵌入式这边，演进路径其实类似。但有个关键区别：嵌入式GPU更强调“能效比”。你不能为了性能把功耗拉到300瓦，那板子早烧了。
核心演进脉络：
- 固定功能管线（1990s）：硬件写死，只能做特定图形操作
- 可编程着色器（2000s）：顶点/像素着色器可编程，但分离
- 统一着色器架构（2006+）：所有着色器统一，灵活调度
- 通用计算GPU（GPGPU）（2010+）：用GPU做非图形计算，比如CUDA
- 嵌入式异构计算（现在）：CPU+GPU+NPU融合，专为边缘AI设计
我在项目中遇到过最头疼的事，就是拿着桌面GPU的思维去优化嵌入式代码。结果呢？性能没上去，功耗先爆了。后来我学乖了，得先搞清楚你手里的GPU到底是什么架构。
1.2 嵌入式GPU vs 桌面GPU：核心差异
很多人问我：“嵌入式GPU不就是桌面GPU的缩小版吗？” 我通常会反问一句：“你觉得摩托车引擎和F1赛车引擎，能一样吗？”
它们虽然都是内燃机，但设计目标完全不同。桌面GPU追求的是“绝对性能”，嵌入式GPU追求的是“每瓦性能”。
| 对比维度 | 桌面GPU | 嵌入式GPU |
|---|---|---|
| 功耗 | 150W - 450W | 5W - 30W |
| 内存 | 独立显存（GDDR6/HBM） | 共享内存（LPDDR4/5） |
| 散热 | 主动风扇，甚至水冷 | 被动散热或小风扇 |
| 编程模型 | CUDA / DirectX / Vulkan | OpenGL ES / Vulkan / OpenCL |
| 典型应用 | 游戏、渲染、科学计算 | 无人机、机器人、智能摄像头 |
| 内存带宽 | 几百GB/s | 几十GB/s |
你看这个表格，最扎眼的就是功耗和内存带宽的差距。我曾经在一个项目里，试图在RK3588上跑一个桌面级的YOLOv8模型。结果呢？帧率只有个位数，芯片烫得能煎鸡蛋。
避坑指南： 我曾经以为嵌入式GPU就是“降频版”桌面GPU。后来发现，它们的架构设计思路完全不同。嵌入式GPU更依赖Tile-based渲染，减少对显存的访问。你想想看，带宽就那么点，省着用才是王道。
还有一个关键点：嵌入式GPU通常和CPU共享内存。这意味着没有独立的显存，数据拷贝的开销小了很多。但坏处是，CPU和GPU会抢带宽。嗯，这里要注意，做图像处理时，尽量用零拷贝技术，别让数据在CPU和GPU之间来回倒腾。
1.3 主流嵌入式GPU平台介绍
现在市面上主流的嵌入式GPU平台，我接触过的有三家：NVIDIA Jetson系列、瑞芯微RK3588、树莓派。它们各有各的脾气。
1.3.1 NVIDIA Jetson系列
Jetson系列，说白了就是NVIDIA把桌面GPU技术下放到了嵌入式领域。它最大的优势是CUDA生态。你想想看，桌面端写的CUDA代码，稍微改改就能跑在Jetson上。这对做AI的人来说，太香了。
- Jetson Nano：入门级，128核Maxwell GPU，适合学习和小型项目
- Jetson TX2：256核Pascal GPU，我当年做无人机项目就用它
- Jetson Xavier NX：384核Volta GPU，带Tensor Core，AI算力21 TOPS
- Jetson Orin系列：最新，Ampere架构，最高275 TOPS
我记得有一次，客户要求在无人机上做实时目标检测。我们用了Jetson Xavier NX，配合TensorRT优化，硬是把YOLOv5跑到了30fps以上。功耗才15W，这要是用桌面GPU，光电源线就得拖根尾巴。
注意事项： Jetson虽然强，但价格不便宜。而且它的散热设计要特别注意。我见过有人把Jetson Orin NX塞进小机箱，结果没跑10分钟就过热降频了。一定要留够散热空间。
1.3.2 瑞芯微RK3588
RK3588是国产芯片里的一匹黑马。它集成了ARM Mali-G610 GPU，还有独立的NPU（6 TOPS）。说实话，我第一次拿到开发板时，觉得这配置有点“堆料”。
- GPU：Mali-G610 MP4，支持OpenGL ES 3.2、Vulkan 1.2
- NPU：6 TOPS算力，支持INT8/INT16量化
- 内存：LPDDR4X，最高32GB
- 视频编解码：8K@60fps解码，8K@30fps编码
我在项目中用RK3588做过一个智能摄像头方案。它的视频编解码能力是真的强，8K视频硬解毫无压力。但要注意，Mali GPU的驱动生态不如NVIDIA成熟。有时候你写个OpenCL程序，可能会遇到一些“惊喜”。
嗯，这里要提醒一下：RK3588的NPU虽然标称6 TOPS，但实际使用中，你得用瑞芯微自己的RKNN工具链。如果你习惯了CUDA，刚开始可能会有点不适应。
1.3.3 树莓派
树莓派，大家应该都不陌生。它用的是Broadcom的VideoCore GPU。说实话，这GPU的性能不强，但胜在便宜、生态好、文档多。
- 树莓派4B：VideoCore VI，支持OpenGL ES 3.0
- 树莓派5：VideoCore VII，性能提升不少，支持Vulkan
树莓派适合做什么？我个人觉得，它最适合做原型验证和学习。你想想看，几百块钱就能搭一个图像处理平台，跑跑OpenCV，做做简单的滤镜，完全够用。
但如果你要做高帧率的实时处理，比如1080p@60fps的物体检测，树莓派就有点吃力了。它的内存带宽是硬伤，GPU算力也有限。
我的建议： 如果你是初学者，先从树莓派入手，跑通OpenGL ES的流水线。然后换RK3588，体验一下异构计算。最后再上Jetson，玩CUDA和TensorRT。这样循序渐进，你会对嵌入式GPU有更立体的理解。
1.4 小结
嵌入式GPU的世界，其实比桌面GPU更有意思。因为你要在有限的功耗和带宽下，榨干每一分性能。这就像开着一辆小排量车，却要跑出赛车的速度。嗯，考验的是技术，更是智慧。
下一章，咱们会深入OpenGL ES的渲染管线，手把手带你写第一个嵌入式GPU程序。到时候，我会分享一些我在项目中踩过的坑，保证让你少走弯路。
公众号:蓝海资料掘金营，微信deep3321