01
加速卡市场全景
从GPU到FPGA再到ASIC,主流加速卡分类与适用场景。
GPUFPGAASIC
02
核心性能指标解析
算力(TOPS/TFLOPS)、内存带宽、功耗(TDP)、PCIe带宽。
TOPSTDPPCIe
03
深度学习推理卡选型
NVIDIA T4 vs A10 vs A100,如何根据模型吞吐量选择。
T4A100吞吐量
04
FPGA加速卡实战
Xilinx Alveo U250 vs Intel PAC D5005,逻辑资源与DSP评估。
AlveoDSP
05
视频编解码加速卡
基于Intel QuickAssist与NVIDIA NVENC的转码性能对比。
QATNVENC
06
网络加速卡(DPU)
NVIDIA BlueField-3 vs Intel IPU,卸载能力与虚拟化支持。
DPUIPU
07
存储加速卡
基于SmartNIC的NVMe-oF加速与硬件RAID卡对比。
NVMe-oFRAID
08
AI边缘计算卡
Jetson Orin vs Intel Movidius,功耗与算力的平衡艺术。
边缘AIJetson
09
数据中心异构计算
x86 + GPU + FPGA的协同工作流设计。
异构协同
10
性能评测方法论
MLPerf、SPEC、自定义Benchmark的设计原则。
MLPerfSPEC
11
基准测试工具链
DLRM、ResNet-50、BERT等标准负载的测试脚本编写。
DLRMBERT
12
延迟与吞吐量测试
使用wrk、locust进行网络加速卡的压力测试。
wrklocust
13
功耗与散热实测
功率计+红外热像仪,如何量化TDP与实际功耗差距。
热像仪TDP
14
PCIe Gen4 vs Gen5实测
带宽对AI训练和推理的实际影响。
Gen5带宽
15
显存/内存带宽瓶颈分析
使用nvidia-smi与perf工具定位瓶颈。
nvidia-smiperf
16
多卡互联拓扑
NVLink vs PCIe Switch vs Ethernet,通信效率对比。
NVLink拓扑
17
虚拟化与SR-IOV
如何评估加速卡在多租户场景下的隔离性能。
SR-IOV多租户
18
驱动与软件生态
CUDA vs OpenCL vs oneAPI,开发效率与性能权衡。
CUDAoneAPI
19
容器化部署
Docker + NVIDIA Container Toolkit vs Kata Containers。
DockerKata
20
Kubernetes设备管理
使用device plugin管理GPU/FPGA资源。
K8sdevice plugin
21
成本模型(TCO)
硬件采购价 + 功耗电费 + 运维人力,三年总成本计算。
TCO电费
22
选型决策矩阵
构建加权评分表,从性能、功耗、价格、生态四个维度打分。
评分表决策
23
供应商锁定风险
如何评估CUDA生态依赖与ROCm/oneAPI的迁移成本。
ROCm锁定
24
硬件兼容性测试
主板BIOS设置、电源功率、物理尺寸的检查清单。
BIOS兼容性
25
固件与BMC管理
升级固件、监控温度、远程管理的实操经验。
BMC固件
26
故障排查实战
加速卡无法识别、驱动崩溃、性能下降的常见原因。
故障驱动
27
性能调优案例
某推荐系统从T4迁移到A10的吞吐量提升3倍的经验。
调优A10
28
大规模集群部署
1000卡集群的散热、网络、管理挑战。
集群千卡
29
未来趋势
CXL互连、Chiplet架构、光互连对加速卡选型的影响。
CXLChiplet
30
课程总结与实战项目
构建一个完整的加速卡选型报告模板。
报告模板实战