从零开始部署第一个AI模型 · 课程目录

01AI模型部署概述

什么是AI模型部署、部署的挑战与价值、部署流程全景图

Python环境安装、pip与conda包管理、虚拟环境创建与使用

03模型格式基础

ONNX格式介绍、PyTorch模型导出为ONNX、ONNX模型可视化

04推理引擎入门

ONNX Runtime安装与使用、CPU推理与GPU推理、性能基准测试

05模型服务化

Flask搭建简单API、FastAPI搭建高性能API、API接口设计与测试

06容器化部署

Docker基础命令、编写Dockerfile、构建与运行容器

07云平台部署

阿里云/腾讯云服务器选购、SSH远程连接、部署脚本编写

08模型优化技术

模型量化（INT8/FP16）、模型剪枝、知识蒸馏概念

09TensorRT加速

TensorRT安装、PyTorch模型转TensorRT、TensorRT推理优化

10边缘设备部署

树莓派环境搭建、模型压缩与部署、性能调优技巧

TensorFlow.js介绍、浏览器内模型加载与推理、WebGL加速

12移动端部署

Core ML（iOS）与NNAPI（Android）简介、模型转换工具

13模型监控与日志

日志记录最佳实践、Prometheus监控指标、Grafana可视化

14A/B测试与灰度发布

A/B测试原理、模型版本管理、灰度发布策略

15安全与隐私

模型加密、输入验证、对抗攻击防御基础

16CI/CD流水线

GitHub Actions配置、自动化测试、自动部署流程

17模型注册中心

MLflow模型管理、模型版本控制、模型元数据存储

18分布式推理

负载均衡策略、多GPU推理、推理集群搭建

19Serverless部署

AWS Lambda部署、阿里云函数计算、冷启动优化

20模型解释性

SHAP值计算、LIME解释器、特征重要性分析

实时数据流处理、Kafka集成、特征工程自动化

22模型回滚机制

模型版本回退、蓝绿部署、金丝雀发布

Locust压测工具、吞吐量与延迟分析、瓶颈定位

GPU实例选择、按需与预留实例、Spot实例使用

25多模型管理

模型路由、模型组合、模型热加载

26联邦学习部署

联邦学习基础、安全聚合、跨设备部署

27模型合规性

GDPR合规、数据脱敏、审计日志

常见错误码、调试技巧、性能Profiling

29生产环境最佳实践

高可用架构、灾备方案、SLA保障

从零部署一个图像分类模型到生产环境