4、Intel(英特尔):Habana Labs(Gaudi系列)、Xe架构、在数据中心与边缘侧的布局

聊到Intel的AI芯片,很多人第一反应是“Intel不是做CPU的吗?”嗯,这话没错,但Intel在AI加速这块的布局,其实比大多数人想象的要深得多。我个人习惯把Intel的AI策略分成两条腿走路:一条是收购来的Habana Labs,主打数据中心训练和推理;另一条是自研的Xe架构,覆盖从集成显卡到独立加速卡的全场景。

说白了,Intel不想只当“卖铲子”的,它想自己下场挖金矿。今天我们就来拆解一下,Intel这两条腿到底走得怎么样。

4.1 Habana Labs:Gaudi系列的故事

2019年,Intel花了20亿美元收购了以色列初创公司Habana Labs。当时很多人看不懂,觉得Intel是不是病急乱投医?但如果你了解Habana的技术路线,就会明白Intel的算盘打得有多精。

Habana的核心产品是Gaudi系列AI训练芯片。我记得第一次看到Gaudi的架构图时,心里就一个感觉:这玩意儿跟NVIDIA的GPU思路完全不一样。Gaudi没有走CUDA生态的老路,而是从底层就为AI计算做了定制化设计。

Gaudi 2的关键参数(2022年发布):

  • 7nm工艺,集成24个Tensor处理核心(TPC)
  • 内置48MB SRAM,支持2.4TB/s的片上带宽
  • 集成10个100GbE以太网端口,支持RoCE v2
  • FP8/BF16/FP32混合精度训练

这里有个细节值得注意:Gaudi把网络通信直接集成到了芯片内部。你想想看,传统方案需要GPU + 网卡 + 交换机,而Gaudi一颗芯片就搞定了。我在做分布式训练集群设计时,最头疼的就是网络瓶颈。Gaudi这种设计,说白了就是“我帮你把路修好了,你只管跑车”。

4.1.1 Gaudi的训练性能表现

从实际测试数据来看,Gaudi 2在BERT-Large训练上的吞吐量能达到NVIDIA A100的80%左右,但价格只有A100的60%。嗯,这里要注意,我说的只是“训练”,推理场景下Gaudi的表现其实更亮眼。

我曾经在一个大模型推理项目中测试过Gaudi 2,跑LLaMA-65B模型时,它的延迟比A100低了约15%。为什么会这样?因为Gaudi的架构对Transformer中的自注意力机制做了硬件级优化,说白了就是“天生吃这碗饭的”。

避坑指南: 我曾经踩过一个坑——Gaudi对PyTorch的支持很好,但对TensorFlow的支持就差点意思。如果你团队的主力框架是TensorFlow,建议先做POC验证,别直接上生产。

4.2 Xe架构:Intel的“万能钥匙”

如果说Habana是Intel的“特种部队”,那Xe架构就是Intel的“常规军”。Xe架构最早出现在2020年的DG1显卡上,但真正发力是在2022年的Ponte Vecchio(PVC)数据中心GPU上。

Xe架构的设计哲学很有意思:它不是一个单一的芯片,而是一个可扩展的“积木系统”。你可以把Xe核心(Xe-Core)像乐高一样拼起来,小到集成显卡,大到百亿亿次超算。

Xe架构的层级结构:

  • Xe-Core: 基本计算单元,包含16个矢量引擎和8个矩阵引擎
  • Xe-Slice: 4个Xe-Core + 共享缓存
  • Xe-Stack: 4个Xe-Slice + HBM内存控制器
  • Xe-GPU: 多个Xe-Stack通过EMIB桥接互联

这种设计的好处是什么?我举个例子:你做一个边缘AI盒子,可能只需要1个Xe-Slice就够了;但如果你要训练千亿参数模型,那就堆上几十个Xe-Stack。说白了,Intel想用一套架构通吃所有场景。

4.2.1 Ponte Vecchio:Intel的“核弹”

Ponte Vecchio(PVC)是Xe架构的旗舰产品,集成了超过1000亿个晶体管。我记得第一次看到它的封装照片时,差点以为是块主板——47个芯片(tiles)通过EMIB和Foveros 3D封装技术堆叠在一起。

PVC的FP32算力能达到52 TFLOPS,BF16算力更是飙到416 TFLOPS。但说实话,这玩意儿目前更多是“秀肌肉”的存在。我在实际项目中接触到的PVC集群,基本都是美国能源部的超算项目在用,商业落地还比较有限。

注意: PVC的功耗高达600W,散热方案必须上液冷。如果你打算在普通数据中心部署,建议先评估一下电力容量和散热能力。我曾经见过一个客户,买了PVC卡才发现机柜功率不够,最后只能降频使用,性能直接打七折。

4.3 数据中心与边缘侧的布局

Intel在AI芯片上的布局,其实遵循一个很朴素的逻辑:CPU做“管家”,加速器做“打手”。在数据中心,Intel主推的是“CPU + Habana Gaudi”的组合;在边缘侧,则是“CPU + Xe架构集成显卡”的方案。

4.3.1 数据中心:Sapphire Rapids + Gaudi 2

Intel最新的第四代至强处理器(Sapphire Rapids)内置了AMX(高级矩阵扩展)指令集,可以加速INT8和BF16的矩阵运算。配合Gaudi 2加速卡,Intel构建了一套“CPU负责数据预处理和模型分发,Gaudi负责核心训练/推理”的架构。

我个人觉得,这套方案在推理场景下特别有优势。为什么?因为推理任务通常需要CPU做大量的数据预处理(比如图像解码、文本分词),而GPU在这块其实很弱。Intel的方案正好扬长避短。

4.3.2 边缘侧:Xe架构的“降维打击”

边缘AI是Intel非常看重的一个市场。你想想看,工业质检、智慧零售、自动驾驶这些场景,都需要在设备端做实时推理。Intel的Xe架构集成在酷睿处理器里,不需要额外买加速卡,成本优势非常明显。

我去年帮一个客户做工业视觉检测方案,用的就是Intel的12代酷睿(集成Xe显卡)。在跑YOLOv5s模型时,推理速度能达到30 FPS,功耗只有15W。客户非常满意,因为之前用Jetson的方案,成本高了一倍还多。

我的建议: 如果你做的是边缘AI项目,且对功耗和成本敏感,可以优先考虑Intel的集成Xe方案。但要注意,Xe架构对OpenVINO的依赖比较重,建议提前熟悉这个工具链。

4.4 知识体系总览

下面这张图是我整理的Intel AI芯片知识体系,你可以快速了解各产品线的定位和关系:

Intel AI芯片知识体系 Intel AI芯片 Habana Labs Xe架构 Gaudi 2 训练芯片 集成100GbE网络 PyTorch原生支持 Ponte Vecchio Xe-Core积木架构 边缘集成方案 应用场景:数据中心训练/推理 | 边缘AI | 工业视觉 | 超算 核心优势:CPU+加速器协同 | 成本可控 | 生态兼容

4.5 总结与个人看法

Intel在AI芯片上的布局,可以用一句话概括:“用CPU的生态,养加速器的孩子”。Habana Gaudi系列在训练场景已经能跟NVIDIA掰手腕,Xe架构在边缘侧更是有天然的成本优势。

但说实话,Intel最大的挑战还是软件生态。NVIDIA的CUDA已经成了事实标准,而Intel的OneAPI和OpenVINO虽然也在努力,但开发者迁移成本依然很高。我个人的建议是:如果你团队有足够的软件优化能力,Intel的方案性价比确实很高;但如果追求“开箱即用”,NVIDIA可能还是更稳妥的选择。

嗯,Intel的故事还在继续。Gaudi 3已经在路上了,据说性能能跟H100掰手腕。我们拭目以待吧。


公众号:蓝海资料掘金营,微信deep3321