第一章：嵌入式GPU概述
各位同学好，我是你们这门课的老张。在嵌入式系统领域摸爬滚打了十几年，今天咱们来聊聊嵌入式GPU。说实话，我第一次接触这玩意儿是在一个无人机项目里，当时被它的功耗和性能平衡给惊艳到了。
什么是嵌入式GPU？
嵌入式GPU，说白了就是集成在嵌入式系统里的图形处理器。它不像你电脑里那块独立显卡那么庞大，而是跟CPU、内存等部件一起封装在一个小小的芯片上。我习惯把它比作「麻雀虽小，五脏俱全」——虽然体积小，但该有的渲染管线、计算单元一个不少。
你可能会问：手机里不也有GPU吗？没错，手机SoC里的GPU也属于嵌入式GPU。但咱们这门课更关注的是那些用在自动驾驶、无人机、工业相机等场景里的高性能嵌入式GPU。
核心特点：
- 低功耗：通常功耗在5W-30W之间，比桌面GPU动辄200W+要低得多
- 高集成度：CPU+GPU+内存+外设控制器集成在一个芯片上
- 实时性：需要满足硬实时或软实时要求，比如自动驾驶的决策必须在毫秒级完成
- 环境适应性：能在-40°C到85°C的温度范围内稳定工作
与桌面GPU的区别
我记得刚转行做嵌入式时，犯过一个低级错误——直接把桌面GPU的优化思路套到嵌入式GPU上，结果性能惨不忍睹。后来才明白，这两者虽然都叫GPU，但设计哲学完全不同。
| 对比维度 | 桌面GPU | 嵌入式GPU |
|---|---|---|
| 功耗 | 150-450W | 5-30W |
| 内存 | 独立显存（GDDR6/HBM） | 共享内存（LPDDR4/5） |
| 散热 | 主动风扇+水冷 | 被动散热或小型风扇 |
| 计算精度 | FP32/FP64为主 | FP16/INT8为主 |
| 编程模型 | CUDA/OpenCL/DirectX | OpenCL/Vulkan/CUDA Embedded |
| 实时性 | 不要求 | 硬实时或软实时 |
嗯，这里要特别强调一下内存架构的区别。桌面GPU有独立显存，带宽动辄几百GB/s。而嵌入式GPU用的是系统共享内存，带宽通常只有几十GB/s。这意味着什么？意味着你在嵌入式GPU上做优化时，内存访问模式比计算本身更重要。我曾经在一个项目中，仅仅通过调整数据布局，就把推理速度提升了3倍——说白了，就是让数据在内存里排得更紧凑，减少缓存未命中。
典型应用场景
1. 自动驾驶
自动驾驶是嵌入式GPU最典型的应用场景之一。一辆L4级别的自动驾驶汽车，通常需要同时处理6-12个摄像头、多个激光雷达和毫米波雷达的数据。我参与过一个项目，车上的嵌入式GPU需要同时运行目标检测、语义分割、路径规划等5个神经网络模型。
为什么会选择嵌入式GPU而不是桌面GPU？原因很简单：功耗和可靠性。车载环境不可能装一个300W的显卡，而且需要满足车规级温度、振动等要求。我记得当时选型时，我们对比了NVIDIA的Jetson AGX Orin和某国产方案，最终因为生态成熟度选择了前者。
避坑指南：我曾经在自动驾驶项目里吃过亏——没有考虑GPU的「温度降频」问题。夏天车内温度高达70°C，GPU温度一上来就自动降频，导致推理延迟从30ms飙到100ms。后来我们加了主动散热，并且在软件层面做了动态频率调整。
2. 无人机
无人机对嵌入式GPU的要求更苛刻：重量要轻、功耗要低、算力要够。我见过最极端的案例，一个用于电力巡检的无人机，整机功耗只有15W，其中GPU占了8W。你想想看，要在这么低的功耗下实现实时目标检测和避障，难度有多大。
在无人机上做GPU编程，我个人的经验是：能不用浮点就不用浮点。把模型量化到INT8甚至INT4，精度损失可以控制在1%以内，但速度能提升4-8倍。另外，无人机经常需要处理高帧率视频（60fps以上），这时候流水线设计就特别重要——让数据采集、预处理、推理、后处理像工厂流水线一样并行跑起来。
3. 智能相机
智能相机是嵌入式GPU的另一个重要战场。从工业质检到安防监控，从医疗内窥到零售分析，到处都有它的身影。我最近在做一个工业视觉项目，用嵌入式GPU做PCB板的缺陷检测，要求每张图片的处理时间不超过5ms。
智能相机有个特点：输入数据量大，但计算模式相对固定。比如一个1080p的摄像头，每秒产生60帧数据，每帧约6MB。如果全部传到GPU处理，带宽根本扛不住。所以我们在设计时，通常会在传感器端做初步处理（比如ROI裁剪、降采样），只把关键区域送到GPU做深度分析。
注意：智能相机项目里最容易踩的坑是「内存泄漏」。嵌入式设备的内存本来就小，如果每次推理都申请新内存而不释放，跑几个小时就会崩溃。我建议在项目初期就建立内存池机制，预分配好所有需要的内存块，运行时只复用不申请。
嵌入式GPU的编程挑战
说了这么多应用，咱们来聊聊实际编程中会遇到的问题。我个人觉得，嵌入式GPU编程最大的挑战不是写不出高性能代码，而是调试困难。桌面GPU上你可以用NVIDIA Nsight、AMD CodeXL等工具做性能分析，但嵌入式环境里这些工具往往跑不起来。
我常用的调试手段有几种：
- 在代码里加时间戳，手动测量每个阶段的耗时
- 用GPIO引脚输出波形，用示波器看实时延迟
- 在关键路径上打印日志，但要注意日志本身不能影响性能
另外，嵌入式GPU的驱动和工具链往往不如桌面成熟。我记得有一次，某个厂商的OpenCL驱动有个bug，导致kernel执行结果偶尔出错。排查了整整三天，最后发现是驱动版本问题。所以我的建议是：选型时优先考虑生态成熟的平台，比如NVIDIA Jetson系列，社区资源丰富，遇到问题容易找到解决方案。
小结
这一章咱们聊了嵌入式GPU的基本概念、与桌面GPU的区别，以及三个典型应用场景。说白了，嵌入式GPU就是要在功耗、性能、成本之间找到一个平衡点。接下来的课程里，我会带着大家一步步深入，从硬件架构到编程模型，从优化技巧到实际项目，把嵌入式GPU编程的方方面面都讲透。
下一章咱们会聊聊嵌入式GPU的硬件架构，包括流处理器、内存层次结构、以及不同厂商的设计差异。到时候我会拿几个实际芯片的datasheet来拆解，保证干货满满。
公众号:蓝海资料掘金营，微信deep3321