FINN 部署 · 内存优化技巧 | 课程目录

01

FINN内存架构概览进入 →

异构计算模型 · ONNX→HLS映射 · 内存瓶颈根源

02

数据复用策略进入 →

卷积数据重用 · 行缓冲(line buffer) · 滑动窗口本地存储

03

双缓冲技术进入 →

输入输出双缓冲 · DMA流水线 · 乒乓buffer深度

04

权重重排与量化进入 →

QAT量化感知 · 按位切片重组 · 减少BRAM位宽浪费

05

流式架构设计进入 →

中间结果流式传输 · 避免DDR回读 · Streaming FIFO深度

06

内存折叠与展开进入 →

全连接矩阵分块 · tiling拆分 · 适配片上SRAM

07

SIMD与MVTU协同进入 →

SIMD宽度 · MVTU并行度 · 计算与带宽平衡

08

激活值压缩进入 →

ReLU稀疏 · 游程编码(RLE) · 解压逻辑 · 减少中间存储

09

权重共享与捆绑进入 →

FC层权重捆绑 · 合并存储 · 减少参数总量

10

内存层次化分配进入 →

LUT/BRAM/URAM/DDR · 数据放置 · 成本性能权衡

11

自动调优工具进入 →

finn-rtlsim剖析 · brevitas量化指导 · 内存分配

12

批处理优化进入 →

batch size调整 · 带宽影响 · 多批次预取

13

稀疏性利用进入 →

稀疏编译 · 跳过零值 · 稀疏索引表 · 减少访存

14

DMA引擎配置进入 →

AXI DMA传输粒度 · 描述符链 · 连续/非连续搬运

15

片上缓存设计进入 →

专用缓存 · Xilinx FIFO IP · 读写时钟域匹配

16

内存带宽计算进入 →

理论带宽公式 · 实际吞吐率 · 瓶颈定位

17

层融合技术进入 →

相邻小层合并 · 减少中间结果写回 · 降低DDR访问

18

位宽自适应进入 →

量化位宽动态调整 · 窄位宽BRAM · 减少位宽扩展

19

内存碎片管理进入 →

固定大小内存池 · 避免动态碎片 · 高效回收

20

跨时钟域同步进入 →

多时钟域冲突 · 异步FIFO · 数据一致性

21

预取与预计算进入 →

已知模式预取 · 空闲周期加载 · 隐藏内存延迟

22

内存映射优化进入 →

ONNX节点地址映射 · 减少地址计算 · 线性访问

23

编译器指令优化进入 →

Vivado HLS pipeline/unroll · array_partition · 内存综合

24

资源复用策略进入 →

跨层复用BRAM · 状态机控制 · 减少总面积

25

外部存储接口进入 →

DDR4突发长度 · 内存控制器 · 高带宽传输

26

功耗与内存权衡进入 →

动态/静态功耗 · 减少内存翻转 · 低功耗部署

27

调试与性能分析进入 →

Vivado波形分析 · 定位冲突 · 时序收敛

28

案例实战：ResNet-50 进入 →

ONNX导入→FINN编译 · 逐步优化 · 实时推理

29

案例实战：LSTM网络进入 →

循环依赖内存 · 状态缓存 · 序列推理优化

30

前沿趋势与总结进入 →

近存/存内计算 · FINN前景 · 30条黄金法则