4. AMD（超威）深度拆解：CDNA架构、ROCm生态、MI300X与Instinct系列、与NVIDIA的差异化竞争

说到AMD，我其实挺感慨的。十几年前做HPC（高性能计算）的时候，AMD在计算卡领域几乎没什么存在感。但这两年，尤其是MI300X出来之后，整个格局变了。我个人觉得，AMD现在走的这条路，跟NVIDIA完全是两种哲学——一个做封闭生态的极致优化，一个做开放生态的灵活整合。

4.1 CDNA架构：专为计算而生

AMD的GPU架构分两条线：RDNA给游戏，CDNA给计算。这个拆分很关键。你想想看，游戏卡需要的是低延迟、高帧率，而计算卡要的是高吞吐、大显存、精确计算。硬塞在一起，两头都不讨好。

CDNA架构有几个核心设计理念：

• 矩阵计算引擎（Matrix Core）：类似NVIDIA的Tensor Core，专门加速矩阵乘加运算。我记得第一次看到CDNA2的规格时，它的FP16矩阵算力比同代RDNA高了整整一个数量级。
• 无限带宽架构（Infinity Fabric）：这是AMD的独门绝技。通过Infinity Fabric，可以把多个GPU die（芯片裸片）高速互联，组成一个统一的显存池。说白了，就是让8颗GPU看起来像1颗巨大的GPU。
• 显存带宽优化：CDNA架构特别强调HBM（高带宽显存）的使用。MI300X用了192GB HBM3，带宽达到5.2TB/s。这个数字什么概念？比NVIDIA H100的3.35TB/s高了将近60%。

4.2 ROCm生态：AMD的软件底牌

做AI芯片，硬件只是第一步。软件生态才是真正的护城河。NVIDIA有CUDA，AMD有ROCm（Radeon Open Compute platform）。

ROCm的架构分为三层：

• 底层驱动：ROCk内核驱动，负责GPU硬件管理
• 中间层：HIP（Heterogeneous-compute Interface for Portability），这是AMD的CUDA兼容层
• 上层框架：PyTorch、TensorFlow等深度学习框架的ROCm版本

这里我要说一个避坑指南。我曾经在部署一个大规模训练集群时，发现ROCm对某些PyTorch算子支持不完整。比如torch.nn.functional.scaled_dot_product_attention，在ROCm 5.4版本之前是不支持的。解决方案有两个：要么等AMD更新驱动，要么自己用HIP手写算子。

下面是一个简单的HIP代码示例，展示如何调用AMD GPU进行向量加法：

#include <hip/hip_runtime.h>
#include <iostream>

__global__ void vec_add(float* a, float* b, float* c, int n) {
    int idx = threadIdx.x + blockIdx.x * blockDim.x;
    if (idx < n) {
        c[idx] = a[idx] + b[idx];
    }
}

int main() {
    int n = 1024;
    float *d_a, *d_b, *d_c;
    
    // 分配显存
    hipMalloc(&d_a, n * sizeof(float));
    hipMalloc(&d_b, n * sizeof(float));
    hipMalloc(&d_c, n * sizeof(float));
    
    // 启动kernel
    vec_add<<<1, 256>>>(d_a, d_b, d_c, n);
    
    // 同步等待
    hipDeviceSynchronize();
    
    std::cout << "HIP kernel executed successfully!" << std::endl;
    return 0;
}

这段代码跟CUDA几乎一模一样，只是把cudaMalloc换成了hipMalloc。这就是AMD的策略——降低迁移成本，让开发者用最小的代价从CUDA切过来。

4.3 MI300X与Instinct系列：AMD的旗舰产品

MI300X是AMD目前最强的AI加速卡。它的规格让我印象深刻：

参数	MI300X	NVIDIA H100
晶体管数	1530亿	800亿
显存容量	192GB HBM3	80GB HBM3
显存带宽	5.2 TB/s	3.35 TB/s
FP8算力	2.6 PFLOPS	3.96 PFLOPS
互联带宽	896 GB/s (Infinity Fabric)	900 GB/s (NVLink)

看到这个表格，你可能会问：为什么显存大这么多，算力却不如H100？嗯，这里有个设计取舍的问题。AMD选择了用更大的显存来支持超大模型推理，比如LLaMA-70B这种模型，H100需要多卡分片，而MI300X单卡就能装下。对于推理场景，显存容量比算力更重要。

Instinct系列的产品线也很清晰：

• MI100：第一代CDNA架构，2020年发布，主打HPC
• MI200：CDNA2架构，首次引入Matrix Core，开始支持AI训练
• MI300X：CDNA3架构，采用Chiplet设计，把CPU和GPU die封装在一起
• MI400：预计2025年发布，传闻会采用更激进的3D封装

4.4 与NVIDIA的差异化竞争

AMD跟NVIDIA的竞争，说白了就是「开放vs封闭」的路线之争。我总结了几点核心差异：

1. 生态策略：NVIDIA用CUDA锁住开发者，AMD用ROCm兼容CUDA。AMD的策略是「打不过就加入」，让开发者能低成本迁移。
2. 硬件设计：NVIDIA追求单卡极致算力，AMD追求大显存和灵活互联。对于大模型推理，AMD的显存优势很明显。
3. 定价策略：AMD通常比同级别NVIDIA产品便宜20-30%。我见过不少中小公司，预算有限，直接上了MI300X集群。
4. 开源态度：AMD更拥抱开源，ROCm是开源的，而CUDA是闭源的。这对学术界和开源社区很有吸引力。

但AMD也有明显的短板。ROCm的软件生态成熟度跟CUDA比，大概落后2-3年。我去年部署一个多模态模型时，发现ROCm对torch.compile的支持还不完善，最后只能退回到eager模式。这种坑，在CUDA生态里基本不会遇到。

4.5 知识体系总览

下面这张图，是我梳理的AMD AI芯片知识体系。你可以看到，从底层的CDNA架构，到中间的ROCm软件栈，再到上层的MI300X产品，最后落到与NVIDIA的竞争格局，是一条完整的链路。

说实话，AMD这几年的进步有目共睹。从MI100到MI300X，每一代都在缩小与NVIDIA的差距。但软件生态这个坎，不是一朝一夕能跨过去的。我个人建议，如果你在做AI推理部署，尤其是大模型推理，AMD的MI300X值得认真考虑。但如果是做前沿模型训练，CUDA生态的成熟度还是更让人放心。