多传感器时间同步与数据融合实战

📚 共计 30 章节
01
传感器融合概述
什么是多传感器融合、为什么需要融合、典型应用场景(自动驾驶、机器人、IoT)
概念应用
02
传感器基础与选型
常见传感器(激光雷达、摄像头、IMU、GPS、毫米波雷达)原理与特性、选型考量
硬件选型
03
坐标系与空间变换
世界坐标系、车体坐标系、传感器坐标系、欧拉角与四元数、坐标变换矩阵
数学坐标
04
时间同步基础
时间戳的概念、时钟源(系统时钟、GPS时钟、PTP)、时间同步误差来源
时钟误差
05
硬件时间同步方案
PTP(IEEE 1588)协议、GPS PPS同步、硬件触发线同步
硬件PTP
06
软件时间同步方案
基于ROS的Time Synchronizer、基于消息时间戳的插值对齐、时间偏移估计
ROS软件
07
时间同步精度评估
时间偏移测量方法、同步误差分析、评估指标(均值、方差、最大抖动)
评估指标
08
数据预处理
传感器数据滤波(均值滤波、中值滤波、卡尔曼滤波)、异常值剔除、降采样
滤波清洗
09
空间标定基础
内参标定(相机内参、IMU内参)、外参标定(传感器间相对位姿)
标定内参
10
手眼标定与联合标定
手眼标定(Eye-in-Hand / Eye-to-Hand)、激光雷达与相机联合标定
标定联合
11
状态估计基础
贝叶斯滤波、最小二乘估计、最大似然估计
估计概率
12
卡尔曼滤波(KF)
线性系统模型、预测与更新步骤、代码实现
KF线性
13
扩展卡尔曼滤波(EKF)
非线性系统线性化、雅可比矩阵、应用实例
EKF非线性
14
无迹卡尔曼滤波(UKF)
无迹变换、Sigma点选取、对比EKF的优势
UKF无迹
15
粒子滤波(PF)
重要性采样、重采样、适用于非高斯非线性系统
PF采样
16
多传感器融合架构
松耦合 vs 紧耦合、集中式 vs 分布式、前融合 vs 后融合
架构耦合
17
基于卡尔曼滤波的融合
IMU+GPS融合、视觉+IMU融合(VIO基础)
融合VIO
18
基于图优化的融合
因子图原理、iSAM2算法、g2o/Ceres库简介
图优化因子图
19
激光雷达与视觉融合
目标检测级融合、特征级融合、BEV融合(如PointPainting)
LiDAR视觉
20
雷达与视觉融合
毫米波雷达与相机目标关联、空间对齐、置信度融合
雷达关联
21
IMU与视觉融合(VINS)
预积分理论、滑动窗口优化、VINS-Mono框架解析
VINS预积分
22
多传感器标定工具
Autoware标定工具箱、lidar_camera_calibration、Kalibr
工具标定
23
ROS/ROS2中的融合实践
ROS Bag数据回放、tf树管理、message_filters同步
ROS实践
24
数据记录与回放
rosbag录制技巧、时间戳检查、数据完整性验证
数据bag
25
融合系统评估指标
ATE(绝对轨迹误差)、RPE(相对位姿误差)、目标检测mAP
评估指标
26
实时性与性能优化
多线程流水线、零拷贝传输、GPU加速、延迟分析
优化实时
27
典型融合系统案例
LIO-SAM(激光+IMU)、VINS-Fusion(视觉+IMU+GPS)
案例LIO-SAM
28
故障检测与容错
传感器失效检测、降级策略、健康状态监控
容错故障
29
工程部署与测试
嵌入式平台(NVIDIA Jetson、NXP)、Docker部署、自动化测试
部署嵌入式
30
前沿趋势与总结
端到端融合、学习型融合、事件相机融合、课程总结与展望
前沿总结