01
Tick数据基础概念
Tick定义、高频海量非结构化特征,与分钟级数据对比
定义特征
02
数据源与采集挑战
交易所L1/L2、数据经纪商、延迟与丢包问题
采集延迟
03
数据存储架构
InfluxDB、ClickHouse、Parquet、Redis选型对比
时序库列存
04
数据完整性校验
Sequence Number、时间戳单调性、缺失值检测
连续性校验
05
异常值检测基础
Z-Score、IQR、DBSCAN等统计与距离方法
统计学DBSCAN
06
价格异常检测
跳空、闪崩、价格反转识别算法
Gap闪崩
07
成交量异常检测
巨量成交、零成交区间、量价背离
成交量背离
08
买卖盘口(Order Book)异常
Bid-Ask Spread、深度突变、Level2一致性
盘口深度
09
时间戳异常处理
NTP同步、重复/跳跃、交易时段外过滤
时钟过滤
10
数据去重与对齐
精确/模糊去重、多数据源时间对齐
去重对齐
11
数据清洗Pipeline设计
ETL流程、质量评分卡、自动化规则引擎
ETL评分卡
12
实时异常检测系统
Flink、Spark Streaming流处理架构
实时Flink
13
离线数据回测与修复
历史回放、插值回填、数据标记
回测修复
14
机器学习异常检测
孤立森林、Autoencoder、LSTM
ML时序
15
特征工程
Tick级波动率、微观结构、订单流不平衡
特征标准化
16
标签工程
人工标注、半/弱监督异常标签生成
标注弱监督
17
模型评估与验证
Precision/Recall、F1、混淆矩阵、时序交叉验证
评估验证
18
规则引擎与机器学习融合
规则优先、模型兜底、混合决策系统
规则混合
19
数据质量监控Dashboard
KPI设计、实时面板、告警阈值
监控KPI
20
告警与通知机制
分级告警(P0-P3)、聚合、抑制、邮件/钉钉/PagerDuty
告警通知
21
数据血缘与溯源
血缘图构建、版本控制、根因分析
血缘溯源
22
合规与审计
数据保留、SEC/CSRC监管、审计日志
合规审计
23
性能优化
并行处理、向量化、GPU加速
性能GPU
24
分布式处理框架
Kafka、Spark、数据分片策略
分布式Kafka
25
数据压缩与编码
Delta编码、字典编码、Snappy/Zstd对比
压缩编码
26
测试与仿真
模拟Tick生成、压力测试、混沌工程
仿真混沌
27
案例实战:股票Tick
从采集到存储的全流程质量保证
股票实战
28
案例实战:期货Tick
高频交易场景异常检测与修复
期货高频
29
案例实战:加密货币Tick
去中心化交易所、多链数据质量挑战
加密货币多链
30
未来趋势
AI原生数据质量、自适应检测、Data Mesh
趋势Data Mesh