3. TFLite 模型格式：FlatBuffers 简介、.tflite 文件结构、模型可视化工具 Netron

好，咱们进入第三章。这一章聊点实在的——TFLite 模型到底是个什么玩意儿？

很多初学者拿到一个 .tflite 文件，第一反应就是：这是个黑盒子。扔进去能跑，但里面长啥样完全不知道。我刚开始接触 TFLite 时也这感觉，直到我搞清楚了 FlatBuffers 这个东西。

3.1 FlatBuffers 是什么？为什么 TFLite 选它？

FlatBuffers 是 Google 开源的一个序列化库。说白了，就是把内存里的数据直接存成二进制，读的时候不用解析，直接映射到内存就能用。

你可能会问：那 Protobuf 不也挺好吗？嗯，Protobuf 确实流行，但它在嵌入式上有两个硬伤：

• 解析开销大：Protobuf 需要先解析才能访问数据，这在 MCU 上很要命
• 内存占用高：解析过程中会创建很多临时对象

FlatBuffers 就不一样了。它存的数据就是内存布局本身。你读一个 .tflite 文件，直接 mmap 到内存，然后就能像访问 C 结构体一样访问里面的字段。零拷贝，零解析。

我记得有一次在 STM32F4 上跑一个分类模型，用 Protobuf 格式的模型文件，光是解析就花了 200ms，内存还爆了。换成 FlatBuffers 格式后，解析时间直接降到 5ms 以内。嗯，从那以后我再也没用过 Protobuf 做模型序列化。

3.2 .tflite 文件结构解剖

一个 .tflite 文件，本质上就是一个 FlatBuffer 序列化后的二进制数据。它的顶层结构是这样的：

Model
├── version          // 版本号，目前通常是 3
├── description      // 描述信息（可选）
├── metadata         // 元数据（可选）
├── operator_codes   // 算子列表
├── subgraphs        // 子图列表（通常只有一个）
│   └── SubGraph
│       ├── tensors      // 所有张量定义
│       ├── inputs       // 输入张量索引
│       ├── outputs      // 输出张量索引
│       └── operators    // 算子实例列表
│           └── Operator
│               ├── opcode_index  // 指向 operator_codes
│               ├── inputs        // 输入张量索引
│               └── outputs       // 输出张量索引
└── buffers          // 权重数据缓冲区

这个结构其实挺清晰的。我画个重点：

• operator_codes：定义了模型用到了哪些算子，比如 CONV_2D、DEPTHWISE_CONV_2D、FULLY_CONNECTED 等
• subgraphs：包含一个或多个子图。大多数模型只有一个子图，但像控制流模型可能有多个
• tensors：定义了每个张量的形状、类型、量化参数等
• buffers：存的是真正的权重数据，以字节数组形式存储

3.3 张量（Tensor）的定义细节

每个张量在 .tflite 文件中是这样定义的：

table Tensor {
  shape: [int];           // 形状，如 [1, 224, 224, 3]
  type: TensorType;       // 数据类型，如 FLOAT32、UINT8、INT8
  buffer: uint;           // 指向 buffers 数组的索引
  name: string;           // 张量名称（可选）
  quantization: QuantizationParameters;  // 量化参数
  is_variable: bool;      // 是否为变量（训练用）
}

这里有个关键点：buffer 字段。如果 buffer 是 0，表示这个张量没有权重数据，通常是输入输出张量或中间结果。如果 buffer 大于 0，就指向 buffers 数组中的具体数据。

我在项目中遇到过一个问题：模型转换后体积比预期大很多。排查后发现，有个张量的 buffer 索引指向了错误的位置，导致重复存储了权重数据。嗯，这种问题用 Netron 一眼就能看出来。

3.4 量化信息的存储方式

量化模型在 .tflite 中会存储额外的量化参数：

table QuantizationParameters {
  min: [float];           // 最小值（已弃用，但老模型还有）
  max: [float];           // 最大值（已弃用）
  scale: [float];         // 缩放因子
  zero_point: [long];     // 零点
  quantized_dimension: int;  // 量化维度（用于逐通道量化）
}

对于逐张量量化，scale 和 zero_point 各只有一个值。对于逐通道量化，它们会有多个值，对应每个输出通道。

3.5 算子（Operator）的存储方式

每个算子实例存储的是：

table Operator {
  opcode_index: uint;     // 指向 operator_codes 列表
  inputs: [int];          // 输入张量索引列表
  outputs: [int];         // 输出张量索引列表
  builtin_options: BuiltinOptions;  // 算子参数
  custom_options: [byte]; // 自定义算子参数
  mutating_variable_inputs: [bool]; // 可变输入标记
}

builtin_options 是一个联合体，根据 opcode_index 指向的算子类型，解析成不同的结构。比如 CONV_2D 会解析成 Conv2DOptions，里面包含 padding、stride_w、stride_h、dilation 等参数。

你想想看，这种设计的好处是什么？就是扩展性极强。新增一个算子，只需要在 schema 里加一个 table，然后更新 BuiltinOptions 联合体就行。不需要改任何解析逻辑。

3.6 模型可视化工具 Netron

Netron 是我最常用的模型可视化工具，没有之一。它支持 .tflite、.onnx、.pb、.pth 等几乎所有主流格式。

用 Netron 打开一个 .tflite 文件，你能看到：

• 网络结构图：每个算子作为一个节点，张量作为连线
• 张量详情：点击任意张量，能看到它的形状、数据类型、量化参数
• 算子参数：点击算子节点，能看到它的所有参数，比如卷积的 stride、padding 等
• 权重数据：有些版本的 Netron 还能直接查看权重值的分布

Netron 的使用方式也很简单：

1. 访问 netron.app（在线版，直接拖拽文件）
2. 或者下载桌面版（支持 Windows、macOS、Linux）
3. 或者用 pip 安装：pip install netron，然后 netron model.tflite

我个人习惯用桌面版，因为有时候模型文件比较大，在线版加载慢。而且桌面版支持离线使用，出差调试时很方便。

3.7 实战：用 Python 读取 .tflite 文件

最后，我给大家演示一下怎么用 Python 直接读取 .tflite 文件的内容。这在你需要做模型分析或自定义优化时非常有用。

import flatbuffers
from tensorflow.lite.python import schema_py_generated as tflite

# 读取 .tflite 文件
with open('model.tflite', 'rb') as f:
    buf = f.read()

# 解析为 Model 对象
model = tflite.Model.GetRootAsModel(buf, 0)

# 打印基本信息
print(f"模型版本: {model.Version()}")
print(f"算子数量: {model.OperatorCodesLength()}")
print(f"子图数量: {model.SubgraphsLength()}")

# 遍历子图
for i in range(model.SubgraphsLength()):
    subgraph = model.Subgraphs(i)
    print(f"\n子图 {i}:")
    print(f"  张量数量: {subgraph.TensorsLength()}")
    print(f"  算子数量: {subgraph.OperatorsLength()}")
    
    # 遍历张量
    for j in range(subgraph.TensorsLength()):
        tensor = subgraph.Tensors(j)
        name = tensor.Name().decode() if tensor.Name() else "unnamed"
        shape = [tensor.Shape(k) for k in range(tensor.ShapeLength())]
        dtype = tensor.Type()
        print(f"  张量 {j}: {name}, 形状: {shape}, 类型: {dtype}")

这段代码会输出模型的完整结构信息。我在做模型裁剪时，经常用这个脚本来分析哪些层可以去掉，哪些层可以合并。

好了，这一章的内容就到这里。总结一下：

• FlatBuffers 是 TFLite 的序列化基础，优势是零解析、低内存
• .tflite 文件结构清晰，包含算子、张量、缓冲区三大部分
• Netron 是可视化利器，调试模型必备
• Python 可以直接解析 .tflite 文件，方便做自动化分析

下一章，我们会讲怎么把训练好的模型转换成 .tflite 格式，包括量化、优化等实战技巧。到时候见。