边缘计算的定义、与云计算的区别、边缘AI的应用场景(工业质检、智慧零售、自动驾驶)。
主流边缘设备(Jetson Nano、RK3588、树莓派)、算力评估指标(TOPS、FPS)、功耗与散热考量。
模型剪枝(结构化/非结构化)、权重量化(INT8/FP16)、知识蒸馏的原理与实战。
ONNX格式介绍、PyTorch/TensorFlow模型转ONNX、ONNX Runtime部署。
TensorRT简介、模型优化(层融合、精度校准)、C++/Python API部署示例。
OpenVINO架构、模型优化器(MO)、推理引擎(IE)的使用。
TFLite模型转换、委托加速(GPU/NPU)、MediaPipe Pipeline定制。
什么是流水线编排、串行/并行/混合流水线、数据依赖与同步机制。
生产者-消费者模式、管道-过滤器模式、DAG(有向无环图)调度。
ZeroMQ、RabbitMQ在边缘设备上的应用、数据缓冲与背压机制。
Python threading/multiprocessing、GIL的影响、进程池与线程池。
asyncio库、事件循环、协程在I/O密集型流水线中的应用。
多进程间数据共享(multiprocessing.Array/Value)、mmap零拷贝技术。
NVIDIA DeepStream、GStreamer基础、自定义Pipeline插件开发。
视频解码、AI推理、目标跟踪、OSD渲染的完整流水线搭建。
动态Pad、Pad Probe、多路视频流合并与分流。
CPU/GPU/内存监控、动态调整推理批次、降级策略。
端侧预处理+云侧大模型、联邦学习在流水线中的应用。
延迟、吞吐量、功耗的测量方法、Profiling工具(NVIDIA Nsight、perf)。
结构化日志(ELK)、分布式追踪(OpenTelemetry)、断点续传。
Docker在边缘设备上的使用、docker-compose编排多服务、镜像瘦身。
K3s架构、Pod调度、ConfigMap与Secret管理。
GitLab CI/CD、自动化测试、OTA升级。
多传感器融合(Camera+Lidar)+多任务模型(检测+分割)。
边缘AI趋势、异构计算(CPU+GPU+NPU)、未来挑战。