第1章
AI芯片概述
定义、发展历程、分类 (GPU/FPGA/ASIC/NPU) 及典型代表产品
基础全景
第2章
核心指标解析 (上)
算力 (TOPS/GOPS)、精度 (FP32/FP16/INT8/INT4)、功耗与TDP
指标算力
第3章
核心指标解析 (下)
内存带宽 (HBM/GDDR)、片上SRAM、互联带宽 (PCIe/NVLink/CXL)
带宽互联
第4章
软件生态评估
CUDA、ROCm、OpenCL、Vulkan 等编程框架成熟度与兼容性
生态框架
第5章
模型支持能力
主流模型 (CNN/Transformer/LSTM) 适配度与算子覆盖率
模型算子
第6章
推理引擎对比
TensorRT、OpenVINO、ONNX Runtime、Tengine 部署与性能差异
推理引擎
第7章
训练芯片选型
NVIDIA A100/H100、AMD MI250/MI300、Google TPU v4 架构对比
训练旗舰
第8章
边缘端芯片选型
Jetson Orin、Intel Movidius、Google Coral、Rockchip NPU 适用场景
边缘低功耗
第9章
数据中心芯片选型
Habana Gaudi2、Cerebras WSE-2、Graphcore IPU 独特架构分析
数据中心创新
第10章
自动驾驶芯片选型
NVIDIA Orin、Mobileye EyeQ5、地平线征程5、黑芝麻A1000 对比
自动驾驶车规
第11章
手机端芯片选型
骁龙AI Engine、联发科APU、苹果Neural Engine、昇腾NPU
移动端SoC
第12章
性能评估方法论
标准基准测试 (MLPerf、AI Benchmark)、自定义测试流程设计
评测方法论
第13章
算力利用率分析
理论峰值 vs 实际吞吐量,MAC利用率与计算效率
利用率优化
第14章
内存带宽瓶颈
Roofline模型详解,通过Roofline分析定位性能瓶颈
Roofline瓶颈
第15章
延迟与吞吐量
端到端延迟、P99延迟、批量处理吞吐量的测量与优化
延迟吞吐
第16章
功耗与能效比
每瓦性能 (TOPS/W)、TDP与实际功耗测量方法
能效功耗
第17章
量化与精度分析
量化感知训练 (QAT)、后训练量化 (PTQ) 对精度和性能的影响
量化INT8
第18章
算子性能剖析
使用Profiler工具 (Nsight、VTune、Perf) 分析算子级性能
Profiler调优
第19章
编译优化技术
图优化、算子融合、内存复用、常量折叠等编译策略
编译器优化
第20章
多卡互联与分布式
NVLink/NVSwitch、Ring All-Reduce、模型并行与数据并行
分布式互联
第21章
案例:ResNet-50部署对比
GPU与NPU上的部署对比与调优过程
案例ResNet
第22章
案例:BERT-Large训练对比
TPU与GPU上的训练性能对比与成本分析
案例BERT
第23章
案例:YOLOv8边缘优化
Jetson vs Rockchip 实时推理优化
案例YOLO
第24章
案例:Stable Diffusion延迟
A100 vs Gaudi2 数据中心推理延迟对比
案例扩散模型
第25章
选型决策矩阵
构建多维度评分卡 (性能、生态、成本、功耗、供货周期)
决策评分卡
第26章
成本与TCO分析
硬件采购、运维、电力、人力开发成本全视角
TCO成本
第27章
供应链与供货周期
芯片禁运风险、替代方案评估、多源供应策略
供应链风险
第28章
未来趋势
存算一体、光计算、量子计算对AI芯片格局的潜在影响
前沿趋势
第29章
动手实验:搭建测试环境
硬件准备、软件栈安装、基准测试运行
实验实操
第30章
综合实战:自动驾驶选型方案
为自动驾驶公司制定完整AI芯片选型方案与评估报告
实战综合