算力成本测算基础：GPU/TPU选型、云服务定价模型与算力单位换算
聊到算力成本，很多团队上来就盯着GPU型号看。我个人习惯是先搞清楚一个问题：你到底需要多少算力？ 这个问题没想清楚，后面选型、定价、预算全是拍脑袋。
今天咱们就把算力成本的基础打牢。我会从三个维度展开：硬件选型、云服务怎么买最划算、以及那些绕不开的单位换算。嗯，都是我在项目里踩过坑之后总结出来的。
一、GPU/TPU选型：别只看显存
选GPU还是TPU？这问题我经常被问到。其实没那么玄乎。
GPU（图形处理器） 是通用型选手。训练大模型、跑推理、做渲染，它都能干。NVIDIA的A100、H100、V100，还有国产的昇腾910B，都是主流选择。
TPU（张量处理器） 是Google专门为TensorFlow设计的专用芯片。说白了，它就是个偏科生——跑TensorFlow模型效率极高，但换别的框架就有点水土不服。
我的选型原则：
- 通用场景、多框架混用 → 选GPU（A100/H100）
- 纯TensorFlow、超大规模训练 → 考虑TPU
- 国产化需求、信创环境 → 昇腾910B或寒武纪
我曾经在一个项目中，团队非要上TPU，结果模型是用PyTorch写的。迁移成本高得离谱，最后又换回GPU。所以我的建议是：别为了省一点算力钱，搭进去几周的迁移时间。
具体到GPU型号，我整理了一张对比表，你直接拿去用：
| 型号 | 显存 | FP16算力（TFLOPS） | 适用场景 | 参考价格（云上按需/小时） |
|---|---|---|---|---|
| NVIDIA V100 | 32GB HBM2 | 125 | 中小模型训练、推理 | 约$3-4 |
| NVIDIA A100 | 40/80GB HBM2e | 312 | 大模型训练、混合精度 | 约$5-8 |
| NVIDIA H100 | 80GB HBM3 | 989 | 超大模型训练、MoE架构 | 约$12-15 |
| 昇腾910B | 64GB HBM2e | 320 | 国产化替代、信创 | 约¥30-50 |
小技巧： 选型时别只看算力峰值。显存带宽和显存容量往往才是瓶颈。我见过有人用H100跑小模型，算力浪费了80%，钱全白花了。
二、云服务定价模型：按需、预留、竞价
云厂商的定价策略，说白了就是三个字：赚差价。你灵活，它就贵；你承诺长期用，它就便宜。
1. 按需实例（On-Demand）
最灵活，也最贵。适合短期测试、突发需求。你想想看，就像打车，随时叫车随时走，但每公里单价最高。
- 优点：随开随停，按秒计费
- 缺点：价格最高，长期用不划算
- 适用：实验、原型验证、弹性扩缩
2. 预留实例（Reserved）
你承诺用1年或3年，云厂商给你打折。一般能省30%-60%。
- 优点：单价低，资源有保障
- 缺点：提前付费，不能退
- 适用：长期稳定的训练任务
避坑指南： 我曾经签过一个3年的预留实例，结果半年后模型架构升级，需要更大显存。预留的机器用不上，钱打水漂了。所以预留实例适合确定性强的场景。
3. 竞价实例（Spot/Preemptible）
云厂商把闲置资源拿出来拍卖，价格随市场波动。最低能到按需的10%。
- 优点：极其便宜
- 缺点：随时可能被回收（通常给2分钟通知）
- 适用：容错性强的任务（如数据预处理、checkpoint频繁保存的训练）
我个人的经验是：训练用预留，推理用按需，数据处理用竞价。 这样组合下来，算力成本能降40%以上。
三、算力单位换算：TFLOPS、PFLOPS 别搞混
这个其实很简单，但很多人搞混。我刚开始也犯过这个错。
FLOPS 是每秒浮点运算次数。前面的字母代表数量级：
- 1 MFLOPS = 10⁶ FLOPS（百万）
- 1 GFLOPS = 10⁹ FLOPS（十亿）
- 1 TFLOPS = 10¹² FLOPS（万亿）
- 1 PFLOPS = 10¹⁵ FLOPS（千万亿）
- 1 EFLOPS = 10¹⁸ FLOPS（百亿亿）
举个例子：A100的FP16算力是312 TFLOPS。什么意思？就是它每秒能进行312万亿次浮点运算。
那怎么换算成实际训练时间呢？我一般用这个公式：
训练时间（小时）≈ 模型总计算量（PFLOPS）÷ 总算力（PFLOPS）÷ 3600比如一个1750亿参数的GPT-3模型，训练一次大约需要3.14×10²³ FLOPS，也就是314 ZFLOPS（泽它FLOPS）。用1000块A100（总算力约312 PFLOPS）训练，理论时间大约是：
314 × 10³ PFLOPS ÷ 312 PFLOPS ÷ 3600 ≈ 279小时 ≈ 11.6天当然，这是理论值。实际还要考虑通信开销、数据加载、梯度同步等。我一般会加30%的冗余。
核心换算速查表：
| 1 PFLOPS | = 1000 TFLOPS |
| 1 TFLOPS | = 1000 GFLOPS |
| 1 GFLOPS | = 1000 MFLOPS |
| 1 EFLOPS | = 1000 PFLOPS |
四、知识体系总览
下面这张图，是我自己梳理的算力成本测算知识体系。你一看就明白各模块之间的关系：
你看，这三个模块是环环相扣的。选型决定了你的单位算力成本，定价模型决定了你的支付方式，而单位换算则是连接两者的桥梁。
最后说一句： 算力成本测算不是一次性的工作。模型在迭代，云厂商在调价，你的需求也在变。我建议每季度重新算一次，别偷懒。
公众号:蓝海资料掘金营，微信deep3321