第二章：AI技术基础与硬件结合
说实话，很多产品经理一听到「机器学习」「深度学习」就头大。我当年也一样。但做了几个智能硬件项目后，我发现——你不需要成为算法专家，但必须懂这些技术怎么跟硬件打交道。
这一章，我就带你捋清楚三个核心问题：AI到底怎么跑在硬件上？该放云端还是本地？芯片怎么选？
2.1 机器学习与深度学习：先搞懂这俩的区别
先别急着背定义。我习惯这么理解：
- 机器学习：你给机器一堆数据，告诉它「这是猫，这是狗」，它自己总结规律。下次看到新照片，它能猜个八九不离十。
- 深度学习：机器学习的进阶版。它用多层神经网络，自己提取特征。比如人脸识别，它不需要你告诉它「眼睛在哪」，它自己学。
我在项目中遇到过最典型的场景——做智能门锁的人脸识别。用传统机器学习，你得手动标出眼睛、鼻子、嘴巴的位置。用深度学习，扔给它一万张人脸照片，它自己就学会了。但代价是什么？算力需求暴涨。
产品经理要记住的核心差异：
- 机器学习：依赖人工特征提取，算力要求低，适合简单任务
- 深度学习：自动特征学习，算力要求高，适合复杂场景
- 硬件选型时，先问算法团队：你们用ML还是DL？这直接决定芯片档次
2.2 边缘AI vs 云端AI：一场关于「在哪算」的博弈
这个问题，我几乎每个项目都要跟团队吵一遍。你想想看——
云端AI：数据传到服务器，算完再传回来。好处是算力无限，模型可以很大。坏处是延迟高、依赖网络、有隐私风险。
边缘AI：数据在设备本地处理。好处是实时响应、离线可用、数据安全。坏处是算力受限，模型得压缩。
我做过一个智能音箱项目。一开始全用云端，结果用户说「喊一声要等两秒才回应」。后来把唤醒词识别挪到边缘，云端只处理复杂语义——体验瞬间好了。说白了，这不是二选一，而是怎么分。
我的经验法则：
- 延迟敏感、数据隐私高的任务 → 放边缘（如：语音唤醒、人脸解锁）
- 计算密集、需要大模型的任务 → 放云端（如：语义理解、图像生成）
- 大部分产品是混合架构：边缘做预处理，云端做深度分析
我曾经踩过的坑： 有个项目把全部AI逻辑放边缘，结果芯片成本翻了三倍，电池续航砍半。后来才明白——不是所有功能都值得本地跑。算一笔账：边缘芯片每增加1美元成本，产品利润就少一大截。
2.3 主流AI芯片选型指南：NPU、GPU、TPU怎么挑？
嗯，这里要注意。很多产品经理一上来就问「哪个芯片最好？」——这问题本身就有问题。没有最好的芯片，只有最合适的。
我整理了一张表，你直接拿去用：
| 芯片类型 | 核心优势 | 典型场景 | 功耗 | 成本 |
|---|---|---|---|---|
| GPU | 并行计算强，生态成熟 | 云端训练、高性能推理 | 高（几十瓦到几百瓦） | 高 |
| NPU | 专为神经网络优化，能效比高 | 边缘设备、手机、IoT | 低（几瓦到十几瓦） | 中 |
| TPU | Google定制，矩阵运算极快 | 云端推理、大规模部署 | 中高 | 高（需绑定Google云） |
说说我的实际感受：
- GPU：如果你做的是云端AI产品，比如智能客服后台，那GPU是首选。NVIDIA的生态太强了，CUDA库随便用。但别往嵌入式设备里塞——散热和功耗你扛不住。
- NPU：这是智能硬件的亲儿子。我最近做的AI摄像头项目，用的就是瑞芯微的NPU芯片。3瓦功耗，跑一个轻量级人脸识别模型，帧率能到30fps。说白了，边缘设备首选NPU。
- TPU：说实话，我接触不多。它强是真强，但贵也是真贵。除非你产品深度绑定Google生态，否则不太建议。
选型决策三步法（我自己的套路）：
- 先定部署位置：边缘还是云端？边缘直接看NPU，云端看GPU或TPU
- 再算算力需求：问算法团队——模型多大？需要多少TOPS（每秒万亿次运算）？
- 最后卡成本：芯片成本不能超过产品BOM的15%-20%，这是硬杠杠
举个例子。我之前做智能门锁，需要本地跑人脸识别。算法团队说模型需要2TOPS算力。我一看，市面上NPU芯片：
- 算力1TOPS的，成本3美元——不够用
- 算力4TOPS的，成本8美元——超预算
- 最后选了2TOPS的，成本5美元——刚好
你看，选芯片就是个平衡游戏。算力、成本、功耗，三个维度你得同时看。
一个小技巧： 别只看芯片本身的价格。算上外围电路、散热、PCB面积，总成本可能翻倍。我习惯让硬件团队出一份「芯片落地成本清单」，再决策。
2.4 实战：一个AI硬件的技术选型流程
说了这么多，咱们串一下。假设你要做一款「AI语音翻译笔」：
- 确定功能：语音识别（本地）+ 翻译（云端）
- 分配任务：本地做唤醒词识别和语音降噪，云端做翻译
- 选芯片：本地需要低功耗NPU，比如算力1-2TOPS的；云端用GPU集群
- 定模型：本地跑轻量级模型（比如MobileNet），云端跑大模型
- 验证：先拿开发板跑通，再定芯片型号
这个流程我走了不下十遍。每次都会遇到新问题——比如模型量化后精度掉了，或者芯片散热压不住。但框架是对的，剩下的就是迭代。
最后提醒一句： 别被芯片厂商的PPT忽悠了。他们说的「理论算力」和「实际能跑出来的算力」之间，可能差30%-50%。我习惯让算法团队拿真实模型在开发板上跑一遍，看实际帧率和功耗。数据说话，别信宣传。
好了，这一章的核心就这些。下一章我们聊「传感器选型与数据采集」——那又是另一个坑多的地方。你先把AI芯片这块消化掉，有问题随时翻回来。