2
环境搭建
嵌入式开发板选型 · 交叉编译工具链 · 刷机与基础环境
3
ONNX模型导出
PyTorch转ONNX · 动态/静态轴 · 算子兼容性
6
模型量化原理
FP32→INT8 · 校准数据集 · KL散度与直方图
8
数据预处理
点云体素化 · 坐标变换 · 数据增强策略
9
后处理
体素→占用网格 · 阈值筛选 · 连通域分析
10
嵌入式推理框架选择
TensorRT vs OpenCV DNN vs ONNX Runtime
12
内存管理
GPU显存分配 · Pinned Memory · 异步拷贝与Stream
13
多线程流水线
生产者-消费者 · 双缓冲 · 延迟隐藏
14
性能分析工具
Nsight Systems · trtexec --profiling · 自定义计时器
15
模型剪枝
结构化剪枝 · 通道剪枝 · Fine-tuning策略
16
知识蒸馏
Teacher-Student · 温度参数 · 蒸馏损失函数
17
稀疏化推理
权重稀疏化 · 激活稀疏化 · 硬件加速支持
18
自定义算子开发
Plugin编写 · 注册与调用 · 动态shape支持
20
实时性优化
算子融合 · 内存复用 · CUDA Graph捕获
22
精度验证
与GPU FP32逐元素对比 · 可视化工具
23
常见问题排查
精度下降 · 显存溢出 · 推理崩溃调试
24
模型版本管理
DVC数据版本控制 · MLflow注册 · 回滚策略
25
OTA升级
远程模型更新 · 差分升级 · 回滚保护
27
功耗优化
DVFS调优 · GPU频率锁定 · 空闲睡眠模式
28
多平台移植
Jetson→地平线征程 · 瑞芯微RK3588迁移要点
29
实际路测
数据采集 · 离线回放 · 在线部署闭环
30
项目总结与展望
Occupancy发展趋势 · 端侧大模型部署挑战