01
GPU风控系统概述
GPU在金融风控中的角色、为什么需要GPU风控、系统设计目标与挑战。
概念导论
02
硬件架构基础
GPU计算单元详解、显存与带宽、PCIe与NVLink互联、GPU拓扑结构。
硬件架构
03
软件栈与驱动
CUDA编程模型、cuDNN与TensorRT、GPU驱动与容器化（NVIDIA Docker）。
CUDA驱动
04
风控模型推理加速
模型量化（FP16/INT8）、批处理优化、动态形状处理、算子融合。
推理优化
05
实时特征工程
GPU上的特征计算、窗口函数与聚合、时间序列处理、特征存储与缓存。
特征实时
06
流式数据处理
Kafka与GPU Direct RDMA、Spark/Flink与GPU集成、零拷贝数据传输。
流式RDMA
07
模型部署架构
Triton Inference Server、TensorFlow Serving、自定义推理引擎、多模型管理。
部署服务
08
负载均衡与调度
GPU资源池化、任务队列与优先级、动态扩缩容、GPU分片与MIG技术。
调度MIG
09
监控指标体系
GPU利用率、显存占用、温度与功耗、推理延迟与吞吐量、模型准确率漂移。
监控指标
10
监控工具链
DCGM（NVIDIA Data Center GPU Manager）、Prometheus + Grafana、自定义Exporter。
DCGMGrafana
11
告警与自愈
阈值告警、基于AI的异常检测、自动重启与回滚、通知渠道（钉钉/邮件/短信）。
告警自愈
12
日志与审计
推理日志采集、全链路追踪（OpenTelemetry）、审计合规、日志存储与检索。
日志审计
13
安全与权限
GPU资源隔离、模型加密与鉴权、数据脱敏、安全启动与可信执行环境。
安全隔离
14
成本优化
GPU实例选型、竞价实例与预留实例、混合部署（CPU+GPU）、能耗管理。
成本选型
15
多租户管理
租户隔离、配额管理、计费计量、公平调度策略。
多租户配额
16
混沌工程与容灾
GPU故障注入、显存错误模拟、断网与断电测试、异地多活架构。
混沌容灾
17
模型版本管理
模型注册中心、版本回滚、A/B测试、金丝雀发布。
版本MLOps
18
数据管道监控
数据延迟检测、数据质量校验、数据漂移监控、数据血缘追踪。
数据管道
19
联邦学习与隐私计算
GPU上的联邦学习、安全多方计算、差分隐私、同态加密加速。
隐私联邦
20
边缘端GPU风控
边缘设备选型、模型压缩与剪枝、离线推理、边缘-云端协同。
边缘剪枝
21
大规模集群管理
Kubernetes + GPU Operator、节点池管理、GPU拓扑感知调度、节点健康检查。
K8s集群
22
性能基准测试
MLPerf推理基准、自定义压测工具、性能报告生成、瓶颈分析。
基准压测
23
故障排查实战
CUDA错误码解读、NVIDIA-smi深度使用、NVIDIA Nsight调试、core dump分析。
调试Nsight
24
案例：实时反欺诈系统
架构设计、模型部署、监控告警、效果评估。
反欺诈案例
25
案例：高频交易风控
低延迟优化、FPGA+GPU协同、微秒级推理、硬件时间戳。
高频低延迟
26
案例：信用评分模型
大规模特征工程、XGBoost/LightGBM GPU加速、模型解释性。
信用XGBoost
27
案例：异常交易检测
图神经网络（GNN）在GPU上的实现、动态图更新、实时检测。
GNN异常
28
案例：风控大模型应用
LLM在风控中的使用、GPU推理优化、Prompt工程与安全。
大模型LLM
29
未来趋势
CXL与GPU内存池化、存算一体架构、量子计算与风控、AI for System。
趋势前沿
30
课程总结与实战考核
知识体系回顾、综合实战项目、常见面试题、学习路径推荐。
总结考核