第二章:AI投研基础——机器学习在投资中的应用、深度学习与NLP基础、AI投研与传统量化对比

各位同学,欢迎来到第二章。

这一章,我们不讲策略,不讲回测。我们先聊聊地基——AI投研到底是个什么东西?它跟传统量化有什么区别?

我见过太多人,一上来就调LSTM、跑BERT,结果连过拟合都没搞清楚。嗯,这章就是帮你把地基打牢。

2.1 机器学习在投资中的应用:从线性回归到集成学习

机器学习在投资里,说白了就是「用历史数据,预测未来走势」。但这里有个坑——金融数据信噪比极低,你想想看,市场里90%都是噪音。

我个人习惯,把机器学习在投资中的应用分成三类:

  • 预测类:预测涨跌、预测波动率、预测因子收益
  • 分类类:识别市场状态(牛/熊/震荡)、识别异常交易
  • 优化类:组合优化、交易执行优化

咱们先看一个最简单的例子——线性回归预测收益率。

import pandas as pd
import numpy as np
from sklearn.linear_model import LinearRegression

# 假设我们有一个因子:过去5日动量
df['momentum_5d'] = df['close'].pct_change(5)
df['future_return'] = df['close'].pct_change(1).shift(-1)

# 去掉缺失值
df_clean = df.dropna()

X = df_clean[['momentum_5d']]
y = df_clean['future_return']

model = LinearRegression()
model.fit(X, y)

print(f'因子系数: {model.coef_[0]:.4f}')

这段代码很简单,但我想强调一点:千万不要直接用这个结果去交易。为什么?因为线性回归假设太多——误差独立同分布、线性关系——这在金融市场里基本不成立。

避坑指南:我曾经用线性回归跑了一个因子,回测夏普比2.5,兴奋得不行。结果实盘一个月,亏了15%。后来发现,那个因子在样本外完全失效——典型的过拟合。

那怎么办?我们通常用更鲁棒的方法:

  • 岭回归 / Lasso:加入正则化,防止系数过大
  • 随机森林:非线性关系,自带特征重要性
  • XGBoost / LightGBM:梯度提升树,目前量化比赛中的常胜将军

我建议,刚开始做AI投研的同学,先从随机森林入手。为什么?因为它解释性强,不容易过拟合,而且调参相对简单。

2.2 深度学习与NLP基础:当机器学会「读」新闻

深度学习在投资里最大的应用,我觉得是另类数据的处理。尤其是NLP——自然语言处理。

你想想看,传统量化只能处理数字:价格、成交量、财务指标。但市场里大量的信息是以文本形式存在的——新闻、公告、社交媒体、研报。

NLP能做什么?

  • 情感分析:判断一篇新闻是利好还是利空
  • 主题提取:识别市场当前关注的热点
  • 实体识别:从文本中提取公司名、人名、产品名

我记得有一次,我们团队用BERT模型分析美联储会议纪要。传统方法只能看「加息」「降息」这些关键词,但BERT能捕捉到「措辞的微妙变化」——比如「谨慎」和「高度警惕」的区别。这个信息差,就是alpha。

来看一个简单的情感分析示例:

from transformers import pipeline

# 加载预训练的情感分析模型
sentiment_pipeline = pipeline(
    "sentiment-analysis",
    model="distilbert-base-uncased-finetuned-sst-2-english"
)

# 模拟两条新闻
news_1 = "Company X reports record quarterly earnings, beating estimates."
news_2 = "Regulatory concerns weigh on tech sector outlook."

result_1 = sentiment_pipeline(news_1)
result_2 = sentiment_pipeline(news_2)

print(f"新闻1: {result_1[0]['label']}, 置信度: {result_1[0]['score']:.2f}")
print(f"新闻2: {result_2[0]['label']}, 置信度: {result_2[0]['score']:.2f}")
小技巧:实际项目中,不要直接用通用情感模型。金融文本有自己的一套语言体系——「下跌」在金融里可能是中性描述,但在通用模型里会被判为负面。我建议用FinBERT这类金融领域预训练模型。

2.3 AI投研与传统量化对比:谁更胜一筹?

这个问题,我经常被问到。我的回答是:没有谁取代谁,只有谁更适合什么场景

咱们直接上对比:

维度 传统量化 AI投研
核心方法 线性回归、统计套利、因子模型 深度学习、NLP、强化学习
数据来源 结构化数据(价格、成交量、财务) 结构化+非结构化(文本、图像、另类数据)
模型复杂度 低,可解释性强 高,黑箱问题突出
过拟合风险 中等 高(需要严格的正则化和验证)
计算资源 低,一台PC足够 高,通常需要GPU集群
适用场景 高频交易、统计套利、因子投资 另类数据挖掘、事件驱动、宏观预测

你看,各有千秋。我个人习惯是:传统量化做「骨架」,AI投研做「血肉」

举个例子:我做一个行业轮动策略。

  • 传统量化部分:用因子模型选出估值低、动量强的行业——这是骨架
  • AI投研部分:用NLP分析行业新闻情感,用深度学习预测行业景气度拐点——这是血肉

两者结合,效果往往1+1>2。

核心观点:不要迷信AI。AI不是银弹。它擅长处理高维、非线性、非结构化的数据,但如果你连基础因子都没做好,加再多的深度学习也是白搭。

2.4 知识体系总览

下面这张图,是我自己梳理的AI投研知识体系。你可以把它当作本章的「地图」:

AI投研知识体系 机器学习基础 • 线性回归 / 岭回归 • 随机森林 / XGBoost • 支持向量机 (SVM) • 聚类分析 (K-Means) 深度学习 • 多层感知机 (MLP) • LSTM / GRU (时序) • Transformer架构 • 自编码器 (降噪) NLP自然语言处理 • 情感分析 (FinBERT) • 主题建模 (LDA) • 命名实体识别 (NER) • 文本摘要 应用场景 • 行业轮动策略 • 事件驱动交易 • 另类数据因子 与传统量化对比 • 数据维度更广 • 模型更复杂 • 过拟合风险更高 • 可解释性更差 核心:传统量化做骨架,AI投研做血肉

这张图里,我把AI投研拆成了五个模块。你不需要一次性全部掌握。我的建议是:先攻机器学习基础,再学NLP,最后才是深度学习。顺序很重要。

2.5 本章小结

好,我们来捋一捋这章的核心:

  • 机器学习:从线性回归到集成学习,关键是防止过拟合
  • 深度学习与NLP:让机器理解文本,FinBERT是金融NLP的利器
  • 与传统量化对比:各有优劣,最佳实践是两者结合

最后说一句:不要为了用AI而用AI。我见过太多团队,明明一个简单的动量因子就能赚钱,非要上LSTM,结果模型不稳定,收益还更差。工具是拿来用的,不是拿来炫的。

下一章,我们会正式进入行业轮动策略的设计。但在此之前,请确保你理解了本章的内容——这是所有后续章节的基石。


专注资料整理