异构计算平台 · 模型部署实战 · 课程目录

01 异构计算概述

什么是异构计算为什么需要 GPU/FPGA/ASIC对比

02 模型部署基础

部署流程概览 ONNX/TensorRT 量化与压缩

03 GPU平台部署(CUDA)

CUDA编程模型 cuDNN/TensorRT PyTorch/TF导出

04 FPGA平台部署

FPGA架构基础 HLS高层次综合 Vitis AI工具链

05 ASIC/NPU平台部署

NPU架构特点华为昇腾/寒武纪SDK 算子映射

06 多平台统一部署框架

OpenVINO ONNX Runtime Triton多后端

07 性能优化与调试

Nsight/VTune 内存带宽优化算子融合/图优化

08 生产环境部署

Docker容器化 Kubernetes集群 A/B测试

09 边缘端部署

边缘计算场景 TFLite/ONNX Mobile 剪枝与知识蒸馏

10 安全与可靠性

模型加密保护对抗攻击防御监控告警

11 GPU部署实战(图像分类)

ResNet-50导出 TensorRT优化 C++/Python推理

12 GPU部署实战(目标检测)

YOLOv5转换 FP16/INT8量化多流并发推理

13 FPGA部署实战(图像分类)

Vitis AI编译 DPU核配置性能调优

14 FPGA部署实战(目标检测)

YOLO适配流水线设计端到端延迟优化

15 ASIC实战(华为昇腾)

MindSpore导出 CANN工具链 Atlas 200 DK

16 ASIC实战(寒武纪)

PaddlePaddle适配 Neuware SDK MLU270部署

17 OpenVINO部署实战

模型优化器 IR模型生成 CPU/GPU/VPU

18 ONNX Runtime部署实战

ONNX导出 Execution Provider 跨平台对比

19 Triton Inference Server

模型仓库搭建动态批处理并发模型管理

20 Docker容器化部署

Dockerfile编写 CUDA基础镜像多阶段构建

21 Kubernetes部署实战

K8s集群搭建 Pod资源管理 HPA自动扩缩容

22 边缘端实战(Jetson Nano)

JetPack SDK TensorRT边缘优化功耗与性能

23 边缘端实战(树莓派)

ONNX Mobile编译 ARM CPU优化摄像头实时推理

24 模型量化实战

PTQ与QAT 校准数据集精度损失分析

25 模型剪枝实战

结构化/非结构化 L1/L2正则化剪枝后微调

26 知识蒸馏实战

教师-学生模型软标签/温度蒸馏损失函数

27 Profiling性能分析

Nsight时间线算子耗时统计 IO瓶颈定位

28 内存优化实战

内存池管理张量复用显存碎片整理

29 模型加密与安全部署

加密算法选择 TEE可信执行环境许可证管理

30 综合项目：端到端系统设计

需求分析平台选型部署架构性能测试报告

✨ 异构计算 · 30章完整目录 · 点击卡片跳转