3、AMD（超威）：ROCm生态、MI300系列、与NVIDIA的差异化竞争策略
聊到AI芯片，大家第一反应肯定是NVIDIA。但说实话，这几年AMD的动静越来越大。我最早接触AMD的GPU还是做图形渲染的时候，那时候真没想过它能在AI领域跟NVIDIA掰手腕。但你看现在，MI300系列一出来，整个市场都开始认真审视这家老牌芯片公司了。
AMD的策略其实很清晰：我不跟你拼CUDA生态的成熟度，我跟你拼开放性和性价比。说白了，就是走一条差异化的路。我个人觉得，这条路走得挺聪明的。
3.1 ROCm生态：开源这张牌怎么打？
ROCm（Radeon Open Compute）是AMD的AI计算平台。很多人一上来就问：ROCm跟CUDA比怎么样？我的回答是：现阶段确实有差距，但方向是对的。
ROCm的核心优势在于开源。你想想看，CUDA是NVIDIA的闭源护城河，所有工具链、库、编译器都掌握在NVIDIA手里。而ROCm基于LLVM编译器，HIP（Heterogeneous Interface for Portability）层可以直接兼容CUDA代码。我在项目中遇到过这种情况：把CUDA代码迁移到ROCm，改几行宏定义就能跑起来，虽然性能优化还得花功夫，但至少门槛低了很多。
关键点：ROCm不是要取代CUDA，而是提供一个开放的替代方案。对于不想被NVIDIA绑定的客户来说，这是个很有吸引力的选项。
ROCm目前支持的库包括：
- rocBLAS：基础线性代数库，对标cuBLAS
- rocFFT：快速傅里叶变换库，对标cuFFT
- MIOpen：深度学习卷积库，对标cuDNN
- RCCL：多卡通信库，对标NCCL
嗯，这里要注意：ROCm对PyTorch和TensorFlow的支持已经比较成熟了。我建议你在部署前先确认一下框架版本和ROCm版本的兼容性。曾经有个项目，我们用了最新的PyTorch，结果ROCm的HIP版本没跟上，折腾了两天才搞定。
避坑指南：我曾经在ROCm 5.x版本上踩过坑——某些算子（比如GroupNorm）在MIOpen里实现不完整，需要手动fallback到HIP实现。建议你在选型前先跑一遍算子兼容性测试。
3.2 MI300系列：Chiplet架构的AI实践
MI300是AMD的旗舰AI加速器。它最大的特点就是Chiplet（小芯片）架构。这跟NVIDIA的 monolithic（单芯片）设计思路完全不同。
MI300由多个Chiplet组成：
- 计算Chiplet：基于CDNA 3架构，每个Chiplet包含多个计算单元
- IO Chiplet：负责内存控制器和互联
- HBM3内存：堆叠在芯片上，带宽高达5.2 TB/s
为什么AMD要用Chiplet？说白了，良率和成本。大芯片的制造难度是指数级上升的，NVIDIA的H100 die size已经接近800mm²，良率压力巨大。而AMD把大芯片拆成几个小Chiplet，每个Chiplet的良率更高，整体成本反而更低。
我举个例子：MI300X的晶体管数量是1530亿，比H100的800亿多了一倍。但它的制造成本并没有翻倍，这就是Chiplet的威力。
性能数据：MI300X在FP8精度下的算力达到1307 TFLOPS，H100是1979 TFLOPS。虽然单卡性能不如H100，但MI300X的显存容量是192GB（H100是80GB），对于大模型推理来说，这是个巨大的优势。
下面这张图展示了MI300的Chiplet架构逻辑：
3.3 差异化竞争策略：AMD凭什么跟NVIDIA打？
AMD的差异化策略，我总结为三点：开放生态、性价比、系统级优化。
3.3.1 开放生态 vs 封闭生态
NVIDIA的CUDA生态是封闭的，所有软件栈都掌握在自己手里。而AMD的ROCm是开源的，这意味着：
- 客户可以定制化修改底层代码
- 第三方厂商可以基于ROCm开发自己的工具链
- 云厂商（AWS、GCP）可以深度集成ROCm到自己的平台
我举个例子：AWS的EC2实例中，MI300系列已经被广泛采用。AWS甚至专门为ROCm优化了他们的Neuron编译器。这在NVIDIA的生态里是看不到的。
3.3.2 性价比策略
AMD的定价策略很激进。MI300X的官方定价大约是H100的60%-70%。对于大规模部署来说，这个差价非常可观。你想想看，一个千卡集群，用AMD能省下几百万美元。
但这里有个坑：TCO（总拥有成本）不只看硬件价格。我曾经帮客户做过一个对比：
| 项目 | NVIDIA H100 | AMD MI300X |
|---|---|---|
| 单卡价格 | ~$30,000 | ~$18,000 |
| 显存容量 | 80GB HBM3 | 192GB HBM3 |
| FP8算力 | 1979 TFLOPS | 1307 TFLOPS |
| 软件生态成熟度 | ★★★★★ | ★★★☆☆ |
| 推理场景性价比 | 中等 | 高（大显存优势） |
注意：如果你做的是大模型推理（比如LLaMA-70B），MI300X的192GB显存可以单卡部署，而H100需要2-3张卡。这时候AMD的性价比优势就非常明显了。但如果是小模型训练，NVIDIA的软件生态优势会拉回不少分。
3.3.3 系统级优化：从芯片到集群
AMD在系统级优化上下了不少功夫。MI300系列支持：
- Infinity Fabric：芯片间互联，延迟低至100ns
- AMD ROCm SMI：系统管理接口，类似NVIDIA的nvidia-smi
- RCCL：多卡通信库，支持AllReduce、AllGather等操作
我记得有一次帮客户做集群性能调优，发现RCCL在8卡互联时的带宽利用率能达到95%以上，跟NCCL的差距已经很小了。嗯，这里要提一句：RCCL的拓扑感知能力还在完善中，如果你有复杂的网络拓扑，建议先做一下profiling。
3.4 实战建议：什么时候选AMD？
基于我个人的经验，我建议在以下场景优先考虑AMD：
- 大模型推理：显存容量是硬道理，192GB能装下很多大模型
- 成本敏感型部署：预算有限，但需要大规模算力
- 开源生态偏好：团队有底层优化能力，不想被NVIDIA绑定
- 混合精度训练：FP8/FP16场景下，MI300的性价比不错
但如果你做的是小模型训练、或者对软件生态的成熟度要求极高，那NVIDIA可能还是更稳妥的选择。毕竟，CUDA的生态壁垒不是一天两天能打破的。
我的建议：不要盲目跟风。先跑一个POC（概念验证），用你的实际模型和数据在MI300上跑一遍。我曾经见过一个客户，理论分析觉得AMD性价比高，结果实际跑起来算子兼容性问题一堆，最后又换回了NVIDIA。所以，实测才是硬道理。
最后说一句：AMD的MI300系列让我看到了AI芯片市场的另一种可能。它不一定能打败NVIDIA，但它的存在让整个市场有了更多选择。对于我们这些做AI基础设施的人来说，这绝对是件好事。
公众号:蓝海资料掘金营，微信deep3321