TensorFlow Lite 实战
📘 移动端 & 边缘端 ·
30章
1
TFLite 初探:什么是 TensorFlow Lite?为什么选择 TFLite?TFLite 在移动端与边缘端的应用场景。
⭐ 概念入门
2
环境搭建:安装 TensorFlow、配置 Android Studio(或 Xcode)、安装 TFLite 解释器依赖。
⚙️ 开发环境
3
模型转换基础:使用 TFLiteConverter 将 SavedModel 或 Keras 模型转换为 .tflite 格式。
🔄 转换核心
4
量化入门:什么是量化?为什么需要量化?TFLite 支持的量化类型(动态范围、FP16、整数量化)。
📉 量化基础
5
训练后量化实战:使用代表性数据集进行整数量化,减少模型体积并提升推理速度。
⚡ 后量化
6
量化感知训练:在训练过程中模拟量化效果,提升量化后模型的精度。
🎯 QAT
7
模型优化工具:使用 TFLite Model Maker 进行模型训练与优化。
🛠️ Model Maker
8
模型转换高级技巧:处理自定义算子、设置输入输出张量、优化图结构。
🧩 高级转换
9
Android 端部署:在 Android 应用中加载 TFLite 模型,使用 Interpreter API 进行推理。
📱 Android
10
iOS 端部署:在 iOS 应用中加载 TFLite 模型,使用 C++ API 或 Swift API 进行推理。
🍎 iOS
11
边缘端设备部署:在 Raspberry Pi、Jetson Nano 等设备上运行 TFLite 模型。
🖥️ 边缘端
12
GPU 加速:使用 GPU Delegate 在 Android/iOS 上加速模型推理。
🚀 GPU
13
NNAPI 加速:在 Android 设备上使用 NNAPI Delegate 利用硬件加速。
⚡ NNAPI
14
Core ML Delegate:在 iOS 设备上使用 Core ML Delegate 加速推理。
🍏 Core ML
15
XNNPACK Delegate:在 CPU 上使用 XNNPACK 优化推理性能。
🧠 XNNPACK
16
多线程与性能调优:设置线程数、使用基准测试工具(Benchmark Tool)分析性能。
📊 调优
17
模型大小与内存优化:分析模型内存占用,使用内存映射加载模型。
💾 内存优化
18
图像分类实战:使用 MobileNet 模型在移动端实现实时图像分类。
🖼️ 分类
19
目标检测实战:使用 SSD MobileNet 或 YOLO 模型在移动端实现目标检测。
🎯 检测
20
文本分类实战:使用 BERT 或 MobileBERT 模型在移动端实现文本分类。
📝 文本
21
语音识别实战:使用 Wav2Vec2 或 DeepSpeech 模型在移动端实现语音识别。
🎤 语音
22
姿态估计实战:使用 PoseNet 或 MoveNet 模型在移动端实现人体姿态估计。
🧍 姿态
23
自定义模型训练与转换:使用 TensorFlow 训练自定义模型并转换为 TFLite。
🧪 自定义
24
处理自定义输入输出:处理图像预处理、后处理逻辑,适配模型输入输出格式。
🔧 预处理
25
错误处理与调试:常见错误(模型加载失败、形状不匹配、算子不支持)及解决方案。
🐛 调试
26
模型版本管理:管理不同版本的 TFLite 模型,实现 A/B 测试与灰度发布。
📦 版本
27
安全与隐私:在设备端处理敏感数据,避免数据上传云端。
🔒 隐私
28
性能监控与日志:在移动端集成性能监控工具,记录推理时间与资源消耗。
📈 监控
29
持续集成与自动化部署:使用 CI/CD 工具自动化模型转换、测试与部署流程。
🔄 CI/CD
30
综合项目实战:构建一个完整的移动端 AI 应用(如智能相册、实时翻译),涵盖从模型训练到部署的全流程。
🏆 项目实战