第三章：深度学习与神经网络——CNN、RNN、Transformer 的基本原理与落地案例

好，咱们进入第三章。这一章我估计是很多产品经理最头疼的部分，觉得「神经网络」四个字就够吓人了。别急，我换个角度讲。

说白了，深度学习就是让机器自己学会「看」和「想」。你不需要手写规则，只需要给它足够多的数据，它自己就能总结出规律。我当年第一次跑通一个简单的图像分类模型时，说实话，挺震撼的——机器真的能「认出」猫和狗了。

3.1 卷积神经网络（CNN）——让机器学会「看」

CNN 的核心思想，我一句话就能说清楚：用滑动窗口提取局部特征，然后层层抽象。

你想想看，人是怎么认出一张图片里有只猫的？先看轮廓，再看耳朵、眼睛、胡须这些局部特征，最后组合起来判断。CNN 干的也是这个事。

3.1.1 核心组件

• 卷积层：用一个小矩阵（卷积核）在图像上滑动，提取边缘、纹理等低级特征。
• 池化层：压缩数据，保留最重要的信息。说白了就是「降采样」，减少计算量。
• 全连接层：把提取到的特征组合起来，做最终判断。

3.1.2 落地案例：图像分类

我在做电商图片审核项目时，用过 ResNet 做违规图片识别。当时遇到一个坑：训练数据里「正常商品」和「违规商品」的比例是 1000:1，模型直接学成了「永远输出正常」。后来用了数据增强和加权损失函数才解决。

# 一个简单的 CNN 分类模型（PyTorch 风格）
import torch.nn as nn

class SimpleCNN(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv1 = nn.Conv2d(3, 16, kernel_size=3, padding=1)
        self.pool = nn.MaxPool2d(2, 2)
        self.fc = nn.Linear(16 * 112 * 112, 10)  # 假设输入 224x224

    def forward(self, x):
        x = self.pool(torch.relu(self.conv1(x)))
        x = x.view(x.size(0), -1)
        x = self.fc(x)
        return x

3.2 循环神经网络（RNN）——让机器学会「记」

RNN 解决的是另一个问题：如何处理有先后顺序的数据？比如一句话、一段语音、一个时间序列。

它的核心机制是「记忆」——每个时间步的输出，不仅取决于当前输入，还取决于上一个时间步的「隐藏状态」。说白了，就是让网络有短期记忆。

3.2.1 核心痛点与改进

RNN 有个致命问题：长距离依赖。当序列很长时（比如一段 100 个字的句子），前面的信息传到后面时已经「衰减」得差不多了。我最早做文本生成时，模型生成的句子前半段和后半段经常「前言不搭后语」。

解决方案就是 LSTM（长短期记忆网络）和 GRU。它们引入了「门控机制」，让网络学会「记住什么、忘记什么」。我个人习惯在大多数序列任务中直接用 LSTM，效果更稳定。

3.2.2 落地案例：文本情感分析

我之前帮一家金融公司做舆情监控，用 Bi-LSTM（双向 LSTM）分析新闻标题的情感倾向。为什么用双向？因为「股价暴跌，公司紧急辟谣」这句话，只看前半段是负面，结合后半段才能判断整体是「负面但可控」。

# 一个简单的 LSTM 情感分类模型
import torch.nn as nn

class SentimentLSTM(nn.Module):
    def __init__(self, vocab_size, embed_dim, hidden_dim):
        super().__init__()
        self.embedding = nn.Embedding(vocab_size, embed_dim)
        self.lstm = nn.LSTM(embed_dim, hidden_dim, batch_first=True)
        self.fc = nn.Linear(hidden_dim, 2)  # 正面/负面

    def forward(self, x):
        x = self.embedding(x)
        _, (hidden, _) = self.lstm(x)
        out = self.fc(hidden[-1])
        return out

3.3 Transformer——让机器学会「全局看」

Transformer 的出现，可以说是深度学习领域的一次「革命」。它彻底抛弃了 RNN 的串行结构，改用自注意力机制，让模型能同时看到序列中的所有位置。

你想想看，RNN 看一句话是一个字一个字地看，Transformer 是「一眼扫过去」——哪个字重要，它就多关注哪个字。这就是「注意力」的直观理解。

3.3.1 核心机制：自注意力

自注意力的计算过程，我简化成三步：

1. 每个词生成三个向量：Query（查询）、Key（键）、Value（值）
2. 计算每个词与其他词的「注意力分数」——说白了就是「这个词和那个词有多相关」
3. 用注意力分数加权求和，得到每个词的「上下文表示」

举个例子：「他打碎了花瓶，然后把它扫走了。」这里的「它」指的是「花瓶碎片」。自注意力机制能自动捕捉到这种远距离的指代关系。

3.3.2 落地案例：机器翻译

我记得 Google 在 2017 年推出 Transformer 时，机器翻译的质量直接上了一个台阶。之前用 RNN 做翻译，长句子经常漏翻或错翻。Transformer 因为能全局建模，长句翻译准确率大幅提升。

# Transformer 的核心组件：多头注意力（简化版）
class MultiHeadAttention(nn.Module):
    def __init__(self, d_model, n_heads):
        super().__init__()
        self.n_heads = n_heads
        self.d_k = d_model // n_heads
        self.w_q = nn.Linear(d_model, d_model)
        self.w_k = nn.Linear(d_model, d_model)
        self.w_v = nn.Linear(d_model, d_model)

    def forward(self, x):
        # 实际实现需要拆分多头、计算缩放点积注意力等
        # 这里仅展示结构
        Q = self.w_q(x)
        K = self.w_k(x)
        V = self.w_v(x)
        # ... 注意力计算逻辑
        return output

3.4 三大架构的落地场景对比

架构	擅长领域	典型应用	我的经验建议
CNN	图像、视频、空间数据	图像分类、目标检测、医学影像	数据量小（<10万）时优先考虑
RNN/LSTM	序列数据、时间序列	情感分析、语音识别、股票预测	序列长度<200时效果不错
Transformer	文本、长序列、多模态	机器翻译、文本生成、多模态理解	数据量大（>100万）时首选

3.5 跨领域案例：多模态理解

现在最前沿的方向，是把 CNN、RNN、Transformer 结合起来。比如图像描述生成（Image Captioning）：用 CNN 提取图像特征，用 Transformer 生成文字描述。

我之前参与过一个项目：给盲人用户做「图像转语音」助手。流程是：

1. CNN 提取图像中的物体、场景特征
2. Transformer 将这些特征转化为自然语言描述
3. TTS（文本转语音）模块读出描述

这个过程中，我踩过一个坑：CNN 提取的特征直接喂给 Transformer，效果很差。后来加了「特征对齐层」，把图像特征映射到文本特征空间，效果才明显提升。嗯，跨模态的「对齐」问题，是这类项目的关键难点。

3.6 本章小结

最后，我帮你用一句话总结这三个架构的本质：

• CNN：用滑动窗口看局部，适合「找图案」
• RNN：用记忆链看顺序，适合「读句子」
• Transformer：用注意力看全局，适合「理解上下文」

作为产品经理，你不需要手写这些模型的代码，但你需要知道：什么场景用什么架构，以及每个架构的优缺点。这样在和算法工程师沟通时，你才能提出合理的产品需求，而不是被一句「这个用 Transformer 做不了」就怼回来。

下一章，我们会讲更具体的「模型训练与评估」——包括怎么判断模型好不好、怎么避免过拟合。到时候我会分享一个我差点搞砸的项目经历，挺有意思的。