订单簿数据压缩与恢复策略

📚 共计 30 章节
01
订单簿数据基础
订单簿结构、Level1/2/3区别、Tick级数据特征
结构层级
02
数据压缩必要性
存储成本分析、带宽限制、高频IO瓶颈
成本性能
03
快照与增量机制
全量快照 vs 增量更新、序列号对齐策略
SnapshotIncremental
04
差值编码 (Diff Encoding)
价格差、数量差、时间戳差编码
差值编码
05
变长整数编码
Varint原理、Protobuf实现、ZigZag处理负数
VarintZigZag
06
字典压缩
重复价格/数量映射、静态字典 vs 动态字典
字典映射
07
游程编码 (RLE)
连续相同价格压缩、Level2数据RLE应用
RLE连续
08
增量压缩 (Delta-of-Delta)
时间戳Delta-of-Delta、高频Tick数据适用
Delta时间戳
09
位图压缩
Bitpacking原理、SIMD加速解压、适用场景
BitpackSIMD
10
列式存储思想
按价格/数量/时间列压缩、列式 vs 行式对比
列式压缩
11
LZ4与Snappy
通用压缩算法在订单簿表现、速度与压缩率权衡
LZ4Snappy
12
Zstandard (Zstd)
字典训练、预置字典优化、压缩级别选择
Zstd字典
13
浮点数压缩
价格浮点数处理、定点数转换、十进制编码
浮点定点
14
时间戳压缩
纳秒级时间戳压缩、对齐与分桶策略
纳秒分桶
15
订单ID压缩
UUID压缩、自增ID映射、哈希映射
UUID映射
16
多层级压缩架构
内存级、磁盘级、网络传输级压缩
分层架构
17
压缩流设计
实时 vs 批量压缩、缓冲区管理、背压机制
背压
18
解压性能优化
预取缓存、SIMD解压、多线程解压
预取多线程
19
压缩率与速度调优
股票/期货/币圈策略差异、参数自动调优
调优市场
20
数据恢复完整性
校验和、版本号管理、断点续传
校验恢复
21
错误检测与修复
CRC校验、Reed-Solomon纠错码、数据自愈
纠错CRC
22
压缩数据索引
稀疏索引、时间范围索引、价格范围索引
索引范围
23
内存映射文件 (MMAP)
零拷贝读取、大页支持
MMAP零拷贝
24
分布式压缩策略
数据分片压缩、全局字典 vs 局部字典
分布式分片
25
压缩数据序列化
Protobuf、FlatBuffers、Cap'n Proto对比
序列化Protobuf
26
实时回放引擎
压缩数据实时解压回放、延迟控制
回放实时
27
历史数据归档
长期存储压缩策略、冷热数据分层
归档冷热
28
压缩基准测试
LOBSTER数据集测试、性能指标解读
基准LOBSTER
29
生产环境实战
交易所订单簿压缩案例、5x→20x优化过程
实战优化
30
未来趋势
AI辅助压缩、硬件加速、量子压缩可能性
AI量子