什么是边缘计算
为什么需要边缘计算
与云计算对比
典型应用场景
Transformer架构回顾
参数量与计算量
模型压缩必要性
常见大模型系列
量化基本概念
对称/非对称量化
精度损失分析
量化感知训练
结构化/非结构化剪枝
剪枝策略与流程
剪枝后微调
剪枝工具介绍
蒸馏基本原理
软标签与硬标签
温度参数作用
蒸馏在边缘部署
MobileNet系列
ShuffleNet系列
EfficientNet系列
轻量Transformer
ONNX简介
PyTorch转ONNX
TensorFlow转ONNX
验证与调试
TensorRT简介
模型构建与优化
动态形状支持
INT8量化实战
工具套件介绍
模型优化与转换
推理引擎使用
性能调优技巧
NCNN简介
模型转换与加载
Vulkan加速
移动端部署实战
TFLite格式转换
量化优化
委托加速
Android/iOS集成
CoreML模型转换
Xcode集成
性能优化
Apple Neural Engine
Jetson系列
树莓派
Intel NUC
TPU/NPU/FPGA
JetPack SDK
TensorRT on Jetson
多模态模型部署
功耗优化
TensorFlow Serving
TorchServe
ONNX Runtime Server
边缘服务架构
模型加密技术
安全推理
对抗攻击防御
TEE环境部署
推理延迟监控
资源使用监控
异常检测
日志收集与分析
视频解码优化
目标检测部署
跟踪算法部署
实时性保障
文本分类部署
实体识别部署
对话系统部署
模型量化
图文理解模型
多模态对齐
端侧多模态推理
应用案例
Profiling工具
内存优化
计算图优化
算子融合
智能门禁系统
边缘端质检系统
智能语音助手
端云协同方案