01
金融大模型概述
什么是金融大模型 · 与传统NLP区别 · 核心能力 · BloombergGPT/FinBERT
概念主流模型
02
开发环境搭建
Python/Anaconda · CUDA+PyTorch · Transformers · Jupyter
环境工具
03
数据采集与清洗
财报/新闻/公告 · 爬虫Requests/Scrapy · 去重去噪标准化 · 存储
爬虫预处理
04
数据标注与预处理
Label Studio · NER标注 · 情感标注 · 数据增强 · 数据集划分
标注增强
05
词向量与嵌入
BoW · TF-IDF · Word2Vec · GloVe/FastText · BERT嵌入层
嵌入表示
06
Transformer架构精讲
自注意力 · 多头注意力 · 位置编码 · 编码器-解码器 · PyTorch实现
核心代码
07
BERT模型详解
MLM+NSP · 输入表示 · Fine-tuning · FinBERT · Hugging Face
预训练微调
08
GPT系列模型
GPT-1/2/3/4演进 · 自回归 · Prompt Engineering · In-Context Learning
生成提示
09
LLaMA与开源大模型
LLaMA架构 · RMSNorm/SwiGLU · Alpaca/Vicuna · Chinese-LLaMA
开源部署
10
模型微调基础
迁移学习 · 全参数/冻结层微调 · 学习率调度 · 过拟合与正则化
微调策略
11
高效微调技术(LoRA)
低秩适配原理 · 数学推导 · QLoRA · 实战微调LLaMA
LoRA高效
12
高效微调(P-Tuning/Prefix)
Prompt Tuning · P-Tuning v1/v2 · Prefix Tuning · 对比与实战
P-TuningPrefix
13
指令微调(Instruction Tuning)
指令数据集 · Self-Instruct · FLAN · 金融指令 · 实战微调
指令微调
14
强化学习与RLHF
策略梯度/Q-Learning · SFT+RM+PPO · 奖励模型 · 金融应用
RLHFPPO
15
检索增强生成(RAG)
RAG架构 · FAISS/Pinecone · 文档切分 · 检索器融合 · 金融知识库
RAG检索
16
向量数据库与嵌入
Milvus/Weaviate/Qdrant · text2vec/bge · 余弦/欧氏 · IVF/HNSW
向量库索引
17
对话管理
多轮状态追踪 · 对话历史 · 上下文窗口 · 记忆机制 · 金融对话设计
对话记忆
18
提示工程(Prompt Engineering)
设计原则 · Few/Zero-shot · 思维链 · 模板管理 · 金融优化
提示CoT
19
模型量化与部署
INT8/INT4 · GPTQ/AWQ · vLLM · ONNX/TensorRT · Docker
量化部署
20
API服务开发
FastAPI · RESTful · 请求/响应模型 · 异步 · Swagger文档
APIFastAPI
21
前端交互界面
Streamlit · Gradio · WebSocket · 前后端联调 · 金融UI设计
前端交互
22
金融知识图谱构建
实体-关系-属性 · Neo4j · 实体/关系抽取 · KGQA
知识图谱Neo4j
23
金融情感分析
情感词典 · BERT情感分类 · 细粒度分析 · 股吧评论实战
情感分析
24
金融实体识别(NER)
BIOS标注 · BERT+CRF · 公司/人名/产品 · 财报实体抽取
NERCRF
25
金融关系抽取
Pipeline · Joint Extraction · CasRel · 金融事件关系抽取
关系抽取
26
金融文本生成
摘要/报告/评论 · Seq2Seq · BART/T5 · 财报摘要生成
生成摘要
27
模型评估与优化
准确率/F1/BLEU/ROUGE · 人工评估 · 错误分析 · A/B测试
评估指标
28
安全与合规
数据隐私 · 偏见公平性 · 对抗攻击 · 内容安全 · 监管合规
安全合规
29
性能优化与监控
推理延迟 · 显存优化 · MLflow · 日志告警 · 线上排查
优化监控
30
综合实战项目
需求分析 · 架构设计 · 数据/训练 · RAG集成 · 前端部署 · 总结
实战全栈