嵌入式GPU内存带宽瓶颈分析与解决 · 课程目录

带宽基础内存带宽概念

带宽计算公式 · 嵌入式GPU典型带宽范围

瓶颈识别性能计数器 & Roofline

Profiling工具介绍 · 定位带宽瓶颈

访问模式连续 vs 随机

对齐访问 · 合并访问技术

缓存优化 L1/L2 & 缓存行

缓存行填充 · 预取指令使用

DMA双缓冲异步传输

DMA工作原理 · 双缓冲机制

数据压缩无损/有损权衡

硬件压缩支持 · 带宽节省

内存层级寄存器/共享/全局

纹理内存特性 · 层级结构

Bank冲突共享内存映射

冲突避免 · Padding技术

Warp调度延迟隐藏

指令级并行 · Occupancy优化

带宽计算平衡算术强度

计算受限 vs 带宽受限

内存分配固定/页锁定

内存池技术 · 高效释放

零拷贝技术映射内存

统一内存 · 性能权衡

纹理表面内存缓存优势

滤波功能 · 表面内存写入

常量内存广播机制

常量缓存特性 · 适用场景

共享内存优化动态/静态

Bank冲突避免实战

全局内存合并对齐/步长

结构体数组优化

循环展开向量化编译器优化

向量化指令 · 循环展开

异步操作与流多流并发

异步内存拷贝 · 流概念

带宽测量微基准测试

带宽测试工具 · 实际测量

Roofline实战模型构建

性能上限分析 · 优化指导

典型应用图像/矩阵/推理

深度学习推理 · 案例分析

移动GPU特性 Tiled架构

统一内存 · 带宽节省技术

NPU vs GPU 架构差异

带宽需求 · 协同工作

多核CPU协同数据共享

缓存一致性 · 任务划分

低功耗优化电压频率调节

带宽与功耗权衡 · 节能模式

实时系统约束确定性延迟

带宽预留 · 优先级调度

调试Profiling Nsight/Streamline

ARM Streamline · Valgrind

编译器优化 -O3 / 自动向量化

PGO优化 · 编译选项

未来趋势 HBM / CXL

存算一体架构 · 互连技术

综合实战 Profiling到优化

性能对比报告 · 经验总结