强化学习量化投资 · 从零到一

📚 共计 30 章节
01
量化投资与强化学习概述
什么是量化投资,传统量化策略的局限,强化学习如何破局,课程路线图。
入门概览
02
金融数据基础
股票、期货、加密货币数据获取,pandas数据处理,OHLCV与K线图绘制。
数据Python
03
强化学习核心概念
智能体、环境、状态、动作、奖励,马尔可夫决策过程(MDP),策略与价值函数。
理论MDP
04
Gymnasium环境搭建
安装与使用Gymnasium,创建自定义交易环境,环境交互循环。
环境实战
05
Q-Learning入门
Q表与Q值更新,ε-贪婪策略,手写Q-Learning解决简单迷宫问题。
算法迷宫
06
Q-Learning实战交易
将交易问题建模为MDP,设计状态空间与动作空间,实现Q-Learning交易智能体。
交易Q表
07
深度Q网络(DQN)
神经网络逼近Q函数,经验回放机制,目标网络,DQN算法流程。
DQN深度学习
08
DQN交易智能体
使用PyTorch搭建DQN,处理连续状态空间,训练一个简单的股票交易机器人。
PyTorch股票
09
策略梯度方法
从值函数到策略优化,REINFORCE算法,策略梯度的数学推导。
策略REINFORCE
10
Actor-Critic架构
Actor与Critic的协同,A2C算法,优势函数的使用。
A2C架构
11
PPO算法详解
PPO的核心思想,裁剪目标函数,PPO-Clip与PPO-Penalty。
PPO稳定
12
PPO交易实战
使用Stable-Baselines3实现PPO交易智能体,超参数调优。
SB3调参
13
多资产组合管理
投资组合理论简介,多资产动作空间设计,组合优化与风险控制。
组合风险
14
特征工程与状态表示
技术指标计算(RSI、MACD、布林带),市场微观结构特征,状态归一化。
特征指标
15
奖励函数设计
累计收益、夏普比率、最大回撤,多目标奖励函数,奖励塑形技巧。
奖励夏普
16
回测框架搭建
事件驱动回测引擎,滑点与手续费模拟,绩效评估指标。
回测引擎
17
过拟合与稳健性检验
时间序列交叉验证,滚动窗口回测,蒙特卡洛模拟。
稳健验证
18
多因子模型与强化学习
传统多因子模型介绍,因子与状态融合,因子择时策略。
因子融合
19
高频交易与强化学习
限价单与市价单,订单簿建模,高频做市策略。
高频做市
20
深度强化学习进阶
SAC算法,TD3算法,分布式强化学习(Ape-X)。
SACTD3
21
模仿学习与行为克隆
从专家数据中学习,GAIL算法,交易策略迁移。
模仿GAIL
22
多智能体强化学习
独立Q学习,MADDPG算法,多交易员协同策略。
多智能体MADDPG
23
风险管理与强化学习
VaR与CVaR,风险敏感强化学习,安全约束策略。
风险VaR
24
可解释性强化学习
SHAP值分析,注意力机制可视化,策略决策解释。
可解释SHAP
25
实盘交易系统架构
数据管道,策略服务,执行引擎,监控告警。
系统架构
26
API对接与自动化交易
交易所API使用(Binance/IBKR),订单管理,风控模块。
API自动化
27
强化学习在期权定价中的应用
期权基础知识,希腊字母,RL动态对冲策略。
期权对冲
28
加密货币市场与RL
加密货币特性,DeFi协议,链上数据与RL策略。
加密DeFi
29
前沿研究论文精读
经典论文解读(DQN、PPO、SAC),最新顶会论文分享。
论文前沿
30
项目实战:端到端量化交易系统
从数据获取到策略部署,完整项目展示与总结。
实战毕业项目