01
课程导学与系统全景
Tick数据是什么?为什么需要自建系统?课程目标与整体架构概览。
全景导学
02
环境准备
Python 3.10+ 安装、虚拟环境管理、核心依赖库介绍。
Pythonvenv
03
数据源分析
主流交易所API对比,WebSocket协议基础,Tick字段解析。
APIWebSocket
04
WebSocket客户端基础
长连接、心跳机制、自动重连策略设计。
长连接重连
05
异步编程核心
asyncio库详解,async/await,事件循环,Task与Future。
asyncio异步
06
多数据源并发连接
asyncio.gather管理多连接,连接池,限流与背压处理。
并发限流
07
数据解析与标准化
JSON解析,字段映射,时间戳处理,异常处理。
解析标准化
08
数据缓存层设计
Redis List/Stream,过期策略,内存优化。
Redis缓存
09
数据持久化方案
MongoDB文档模型,批量插入,索引与查询调优。
MongoDB持久化
10
数据库连接池
motor异步操作,连接池调优,故障转移与重试。
motor连接池
11
生产者-消费者模式
asyncio.Queue解耦,队列控制,消费者并发调优。
队列解耦
12
日志与监控
logging结构化,Prometheus指标,Grafana看板设计。
监控Grafana
13
配置管理
YAML/JSON配置,环境变量覆盖,API Key加密存储。
配置安全
14
错误处理与容错
异常捕获,断路器模式,降级策略,告警通知。
容错告警
15
单元测试
pytest框架,Mock WebSocket,异步测试,覆盖率。
pytest测试
16
集成测试
测试环境,全链路模拟,压力测试与稳定性验证。
集成压测
17
系统部署
Docker容器化,Dockerfile,docker-compose编排。
Docker部署
18
性能优化 (上)
异步瓶颈分析,uvloop加速,orjson加速解析。
uvlooporjson
19
性能优化 (下)
内存分析,GC调优,零拷贝技术应用。
内存GC
20
数据回放系统
历史Tick读取,模拟实时推送,策略回测。
回放回测
21
Web API服务
FastAPI构建RESTful接口,实时查询,Swagger文档。
FastAPIAPI
22
实时数据推送
WebSocket推送,广播模式,客户端鉴权。
推送WebSocket
23
数据清洗与预处理
缺失值处理,异常检测,对齐与重采样。
清洗预处理
24
Tick数据存储格式
Parquet vs Arrow vs CSV,列式存储,压缩算法。
Parquet压缩
25
分布式采集架构
Redis Pub/Sub多机协作,负载均衡,数据汇总。
分布式Pub/Sub
26
高可用设计
主从切换,哨兵模式,CAP理论权衡。
高可用CAP
27
安全加固
API Key管理,IP白名单,TLS加密,审计日志。
安全TLS
28
成本控制
云服务器选型,带宽/存储估算,压缩与归档。
成本归档
29
实战案例
BTC/USDT Tick系统7x24小时运行,输出报告。
实战BTC
30
课程总结与进阶方向
架构回顾,FAQ,学习资源,高频交易/ML路径。
总结进阶