01
实体关系抽取概述
什么是实体关系抽取、应用场景(知识图谱、信息检索、问答系统)、技术发展脉络(从规则到深度学习)。
概念全景
02
数据标注与准备
标注规范制定、常见标注工具(LabelStudio、BRAT)、数据格式(BIO、BILOU)、数据质量评估。
数据标注
03
基于规则的抽取方法
正则表达式编写技巧、词典匹配(AC自动机)、规则模板设计、优缺点分析。
规则传统
04
传统机器学习方法
特征工程(词性、句法依赖、位置特征)、CRF模型原理、HMM模型、特征模板设计。
CRFHMM
05
深度学习基础回顾
词向量(Word2Vec、GloVe)、RNN/LSTM/GRU原理、注意力机制、Transformer基础。
词向量Transformer
06
序列标注模型(BiLSTM-CRF)
模型架构详解、损失函数(CRF Loss)、解码策略(Viterbi)、训练技巧。
BiLSTMCRF
07
BERT与预训练模型
BERT原理、RoBERTa、ALBERT、ERNIE等变体、如何在实体关系抽取中微调BERT。
BERT微调
08
基于Pipeline的抽取方法
实体识别+关系分类两阶段、实体识别模型训练、关系分类模型训练、误差传播问题。
Pipeline级联
09
联合抽取模型(Joint Extraction)
共享编码层、参数共享策略、端到端训练、典型模型(CasRel、TPLinker)。
联合端到端
10
CasRel模型实战
模型结构(Subject标注+Object关系标注)、损失函数设计、训练流程、推理流程。
CasRel实战
11
TPLinker模型实战
握手协议原理、Token对矩阵构建、多标签分类、解码策略。
TPLinker握手
12
基于生成式的方法
Seq2Seq框架、T5模型、BART模型、生成式实体关系抽取(REBEL、UIE)。
生成式T5
13
UIE(Universal Information Extraction)模型
结构化抽取范式、Prompt设计、少样本学习、PaddleNLP实现。
UIE少样本
14
关系分类模型
CNN关系分类、PCNN(分段池化)、R-BERT、注意力机制在关系分类中的应用。
PCNNR-BERT
15
远程监督学习
远程监督假设、多实例学习(MIL)、At-Least-One假设、降噪策略(PCNN+ATT)。
远程监督降噪
16
少样本实体关系抽取
Prototypical Networks、Matching Networks、元学习策略、数据增强方法。
少样本元学习
17
跨语言与多语言实体关系抽取
跨语言迁移学习、多语言BERT(mBERT、XLM-R)、零样本跨语言抽取。
跨语言mBERT
18
文档级实体关系抽取
文档图构建、图神经网络(GNN)、DocRED数据集、跨句子推理。
文档级GNN
19
实体关系抽取中的负采样策略
负样本生成方法、难负样本挖掘、对比学习在负采样中的应用。
负采样对比学习
20
数据增强与对抗训练
回译增强、实体替换、对抗训练(FGM、PGD)、一致性训练。
增强对抗
21
模型压缩与部署
知识蒸馏、模型量化、ONNX导出、TensorRT加速、服务化部署(Flask、FastAPI)。
部署ONNX
22
评估指标与实验设计
精确率/召回率/F1、严格评估与宽松评估、交叉验证、消融实验设计。
评估F1
23
错误分析与模型优化
常见错误类型(边界错误、类型混淆、漏召)、错误分析工具、迭代优化策略。
错误分析优化
24
工业级实体关系抽取系统设计
系统架构设计、模块解耦、缓存策略、异步处理、监控与日志。
系统设计工业
25
领域适应与迁移学习
领域漂移问题、领域自适应方法、渐进式微调、领域词典注入。
领域适应迁移
26
大规模实体关系抽取
分布式训练(DataParallel、ModelParallel)、数据并行策略、混合精度训练。
分布式大规模
27
实体关系抽取中的伦理与隐私
数据脱敏、公平性评估、模型可解释性、合规性要求。
伦理隐私
28
前沿趋势与研究方向
大语言模型(LLM)在实体关系抽取中的应用、ChatGPT/GPT-4的抽取能力、Prompt Engineering。
LLMPrompt
29
综合实战项目(一)金融领域
金融领域实体关系抽取(公司-高管-职位、投资关系)、数据采集、模型训练、结果分析。
金融实战
30
综合实战项目(二)医疗领域
医疗领域实体关系抽取(疾病-症状-药物)、知识图谱构建、系统演示、项目总结。
医疗知识图谱