海思AI推理框架
部署实战手册
📘 30章 · 从入门到项目
📚 课程章节
30
⚡ 模型转换 · 推理优化 · 案例实战
🎯 友好色系
🧩 NNIE / SVP
01
海思AI芯片概览
芯片家族
3559A、3519A、3516DV300 架构解析 · NNIE算力单元 · 芯片选型建议
02
开发环境搭建
工具链
Ubuntu交叉编译 · HiTool烧录 · SDK目录 · SSH调试
03
NNIE基础概念
核心理论
神经网络硬件映射 · Caffe vs WK模型 · INT8/FP16量化原理
04
模型转换工具链
RuyiStudio
Caffe转WK · 精度校准 · 常见转换错误排查
05
模型量化实战
精度调优
量化数据集 · scale/offset调节 · 精度损失恢复 · 混合量化
06
推理引擎SDK接口
SVP架构
SVP平台 · NNIE核心API · 内存管理模型
07
图像预处理
VGS加速
硬件缩放/格式转换(NV12/BGR) · ROI提取
08
模型加载与初始化
加载流程
WK加载 · 参数解析 · Tensor绑定 · 多模型并发
09
单帧推理实战
Pipeline
单图推理完整流程 · 前/后处理 · 性能打点
10
视频流推理
VI-VPSS
视频通路 · 帧获取绑定 · 实时推理 · 帧率控制
11
多线程推理框架
并发设计
生产者-消费者 · 线程池 · 任务队列 · 锁优化
12
内存优化策略
MMZ/DMA
物理/虚拟内存映射 · 内存池 · 零拷贝技术
13
模型分时复用
多模型调度
单NNIE多模型 · 切换优化 · 优先级队列 · 负载均衡
14
后处理优化
NMS加速
NMS硬件加速 · 检测框解码 · Top-K算法
15
性能调优工具
Profiling
HI_MAPI_SVP_NNIE_GetProcResult · 硬件计数器 · DDR带宽
16
常见算子支持
硬件实现
卷积/池化/全连接 · ReLU/Sigmoid · 上采样/Concat
17
自定义算子开发
TIK脚本
Tensor Instruction Kit · 算子注册 · 融合推理
18
模型加密与保护
安全方案
WK加密 · AES硬件解密 · 安全启动 · 防破解
19
多芯片级联
分布式推理
PCIe/SRIO级联 · 数据同步 · 负载分配
20
AI应用-人脸检测
MTCNN
MTCNN部署 · 关键点检测 · 活体集成 · FPS/精度
21
AI应用-目标检测
YOLOv3/v5
YOLO移植 · Anchor优化 · mAP评估 · 嵌入式经验
22
AI应用-语义分割
UNet
UNet部署 · 上采样优化 · 逐像素分类 · 带宽优化
23
AI应用-车牌识别
LPRNet
LPRNet部署 · 字符分割 · 端到端Pipeline · 场景调优
24
AI应用-行为分析
OpenPose
姿态估计 · 关键点连接 · 多人场景优化
25
AI应用-工业缺陷检测
质检
分类+分割 · 数据增强 · 实时检测报警
26
AI应用-智能安防
DeepSORT
多路视频分析 · 目标跟踪 · ReID · 告警联动
27
AI应用-智能交通
边缘计算
车辆检测跟踪 · 车牌识别 · 流量统计 · 边缘部署
28
AI应用-智慧零售
商品识别
商品模型部署 · 货架分析 · 行为分析 · 数据上云
29
AI应用-医疗影像
CT/MRI
影像分割 · 病灶检测 · DICOM处理 · 医疗合规
30
项目实战总结与展望
结课
架构回顾 · FAQ · 调优Checklist · NPU+ARM融合趋势