🧠 大模型微调 & Agent融合
30章 · 实战目录
✨ 友好色系
01
大模型微调基础
什么是微调 · 微调与预训练区别 · 核心思想与必要性
02
主流微调方法概览
全参数微调 · Adapter · Prefix Tuning · LoRA · QLoRA
03
LoRA实战入门
LoRA原理 · 低秩矩阵直觉 · HuggingFace PEFT实现
04
数据准备与处理
Alpaca/ShareGPT格式 · 数据清洗 · 数据增强策略
05
训练环境搭建
GPU选型 · CUDA配置 · DeepSpeed/FSDP分布式基础
06
单卡微调实战
Transformers+PEFT · 单卡LoRA微调 · 完整代码走通
07
多卡微调与加速
DeepSpeed ZeRO 2/3 · 梯度检查点 · 混合精度训练
08
微调超参数调优
学习率 · batch size · epoch · LoRA rank/alpha选择
09
模型评估与验证
Loss曲线 · BLEU/ROUGE · 人工评估方法
10
模型合并与导出
LoRA权重合并 · GGUF/GPTQ导出 · 推理框架部署
11
Agent概念入门
什么是AI Agent · 感知-思考-行动循环 · 与LLM关系
12
Agent核心组件
工具调用 · 记忆系统(短期/长期) · 规划能力
13
ReAct模式详解
ReAct论文核心 · 思考-行动-观察循环代码实现
14
Function Calling实战
OpenAI Function Calling · 自定义工具注册与调用
15
Agent框架入门
LangChain Agent · AutoGPT思想 · CrewAI多Agent协作
16
微调模型作为Agent基座
为什么微调模型更适合Agent · 基座与Chat模型差异
17
工具调用能力微调
构造工具调用数据集 · 微调模型学会调用外部工具
18
Agent记忆系统微调
长上下文微调 · 记忆压缩 · RAG与微调结合
19
规划能力微调
思维链(CoT)数据构造 · 规划步骤监督微调 · 自我纠错
20
多轮对话Agent微调
对话历史管理 · 角色一致性 · 多轮工具调用微调
21
融合架构设计
微调模型+Agent框架经典架构 · 模块解耦与通信协议
22
工具库构建与微调
领域专用工具集 · 工具描述优化 · 工具选择微调
23
安全与对齐微调
Agent行为边界 · 拒绝回答微调 · 有害工具调用拦截
24
评估体系构建
Agent任务成功率 · 工具调用准确率 · 端到端场景测试
25
部署与推理优化
vLLM部署微调模型 · Agent推理延迟优化 · 批量处理
26
多Agent协作系统
角色分工微调 · 通信协议 · 任务分解与结果聚合
27
RAG与微调融合
检索器微调 · 生成器微调 · 检索-生成联合优化
28
持续学习与模型更新
在线微调策略 · 数据漂移检测 · 模型版本管理
29
行业案例实战
客服Agent · 代码辅助Agent · 数据分析Agent全流程
30
未来趋势与挑战
多模态Agent微调 · 自主自我进化 · Agent安全治理