- 自然语言处理概述
- 深度学习在NLP中的应用
- TensorFlow环境搭建与基础
- One-hot编码
- Word2Vec原理
- GloVe与FastText
- TensorFlow实现词嵌入层
- RNN原理与结构
- 双向RNN
- 深层RNN
- TensorFlow实现文本分类
- 长短期记忆网络原理
- 门控循环单元
- 梯度消失问题解决
- TensorFlow实现情感分析
- 编码器-解码器架构
- 注意力机制原理
- Bahdanau与Luong注意力
- TensorFlow实现机器翻译
- 自注意力机制
- 多头注意力
- 位置编码
- 编码器与解码器结构
- TensorFlow实现Transformer块
- 预训练与微调范式
- Masked Language Model
- Next Sentence Prediction
- BERT输入表示
- RoBERTa
- ALBERT
- DistilBERT
- ELECTRA
- SpanBERT等模型对比
- 库的安装与使用
- 模型加载与保存
- Tokenizer详解
- Pipeline快速推理
- TensorFlow Hub介绍
- 加载预训练BERT模型
- 特征提取与微调
- 数据集准备与预处理
- BERT Tokenizer使用
- TensorFlow Dataset构建
- 构建BERT微调模型
- 训练循环与回调函数
- 模型评估与保存
- NER任务介绍
- 数据标注格式(BIO/BIOS)
- BERT+CRF模型构建
- 序列标注评估指标
- Span预测方法
- 实体链接与关系抽取简介
- 抽取式问答任务
- SQuAD数据集介绍
- BERT for QA模型构建
- 生成式问答
- T5与BART模型
- 检索增强生成RAG简介
- Sentence-BERT原理
- 双塔模型架构
- 对比学习损失函数
- GPT系列模型简介
- 自回归生成
- Beam Search与采样策略
- Pegasus与BART模型
- 摘要质量评估(ROUGE指标)
- TensorFlow实现
- 知识蒸馏原理
- 模型剪枝
- 量化感知训练
- TensorFlow Lite部署
- ONNX格式转换
- TensorRT加速
- 推理性能优化技巧
- 数据并行与模型并行
- TensorFlow分布式策略
- TPU训练BERT
- 注意力可视化
- LIME与SHAP
- Integrated Gradients
- 模型调试
- TensorFlow Serving
- Docker容器化
- RESTful API构建
- 监控与日志
- 需求分析 · 数据管道
- 模型选型 · 训练部署
- 全流程 · 课程总结与展望