01
Llama模型概述
Llama的诞生背景、开源生态的核心理念、对AI芯片行业的初步影响。
开源生态
02
AI芯片基础
GPU、TPU、NPU的架构差异,以及它们如何适配大模型推理。
架构推理
03
Llama对GPU需求的冲击
为什么Llama系列让英伟达的H100/B200供不应求?
GPU供需
04
开源模型与芯片定制化
Llama如何推动AI芯片从通用走向专用(如Groq、Cerebras)。
定制专用
05
推理芯片的崛起
Llama的低精度量化(INT4/INT8)如何催生推理专用芯片市场。
量化推理
06
显存墙问题
Llama 70B模型需要多少显存?HBM(高带宽内存)为何成为瓶颈?
显存HBM
07
计算效率与稀疏性
Llama的MoE(混合专家)架构如何影响芯片的稀疏计算设计。
MoE稀疏
08
芯片互联技术
NVLink、InfiniBand、以太网在Llama分布式训练中的角色。
互联分布式
09
边缘AI芯片
Llama的轻量化版本(Llama-3.2-1B/3B)如何赋能手机和IoT芯片。
边缘轻量
10
国产AI芯片的机遇
华为昇腾、寒武纪、海光信息如何借Llama生态突围。
国产昇腾
11
软件栈与芯片生态
CUDA、ROCm、Triton在Llama训练/推理中的关键作用。
软件生态
12
芯片能效比
Llama的FP8训练如何降低芯片功耗,推动绿色计算。
能效FP8
13
数据中心架构变革
Llama如何改变传统CPU+GPU的异构计算拓扑。
数据中心异构
14
芯片封装技术
Chiplet(芯粒)设计在Llama大规模芯片中的应用。
Chiplet封装
15
存储墙与近存计算
Llama的KV Cache问题如何推动存算一体芯片发展。
存算一体KV Cache
16
芯片安全与可信执行环境
Llama的隐私推理对TEE(可信执行环境)芯片的需求。
安全TEE
17
芯片互联标准之争
UALink、CXL、OpenCAPI如何影响Llama集群建设。
标准互联
18
光互连芯片
Llama超大规模集群中,光互连如何替代传统电互连。
光互连高速
19
芯片散热技术
液冷、浸没式冷却在Llama训练集群中的必要性。
散热液冷
20
芯片生命周期管理
Llama模型的快速迭代如何倒逼芯片设计周期缩短。
迭代周期
21
芯片设计工具链
EDA工具如何针对Llama架构进行优化(如Cadence、Synopsys)。
EDA工具
22
RISC-V与AI芯片
Llama生态是否可能推动RISC-V在AI加速器中的应用。
RISC-V开源
23
芯片巨头竞争格局
英伟达、AMD、英特尔在Llama生态下的战略差异。
巨头竞争
24
初创芯片公司的生存法则
如何围绕Llama生态找到差异化切入点。
初创差异化
25
芯片成本与定价
Llama的普及如何影响AI芯片的TCO(总拥有成本)模型。
TCO成本
26
芯片供应链安全
Llama生态对台积电、三星先进制程的依赖与风险。
供应链制程
27
芯片测试与验证
Llama模型作为AI芯片的基准测试(Benchmark)标准。
测试Benchmark
28
芯片人才需求
Llama生态下,AI芯片工程师需要掌握哪些新技能。
人才技能
29
未来芯片架构展望
从Llama看下一代AI芯片的架构趋势(3D堆叠、存内计算)。
3D堆叠存内计算
30
总结与展望
Llama生态对AI芯片行业的长期影响与投资机会。
总结投资