第1章信息与信号

一、信息与信号：从混沌到有序的第一步

说实话，每次带新人入门，我都要先问一个问题：你觉得信息和信号是一回事吗？

大多数人会愣一下，然后说「差不多吧」。嗯，这就是我们要讲清楚的第一件事。

信息是什么？我个人的理解很简单——信息是用来消除不确定性的东西。

举个例子。你收到一条消息：「明天可能下雨」。这句话有没有信息？有，但不多。因为它没有消除不确定性，只是给了你一个模糊的提示。

但如果我说：「明天下午3点，市中心降雨概率90%」。这就不同了。你知道了具体时间、地点和概率。不确定性大大降低了。

所以，信息量的大小，取决于它消除了多少不确定性。这是香农老爷子最核心的思想。

核心定义：信息是能够减少或消除不确定性的知识或数据。它不是物质，也不是能量，但它可以改变你对世界的认知状态。

我在做物联网项目时遇到过一件事。传感器上报了温度数据，但数据里夹杂了大量噪声。我一开始以为数据越多越好，后来发现——噪声不是信息，它只是信号里的垃圾。真正有用的信息，是那些能帮你做出决策的数据。

信号是什么？说白了，信号就是信息的载体。信息不能凭空存在，它必须附着在某种物理量上。这个物理量，就是信号。

比如你的声音，是声波信号。手机里的电磁波，是射频信号。电脑里的电压高低，是电信号。

信号的分类，我习惯从两个维度来看：

你想想看，我们每天接触的信号，绝大多数都是模拟信号。但为什么现在数字信号这么流行？因为数字信号抗干扰能力强。我在调试一个模拟电路时，信号线稍微长一点，噪声就进来了。换成数字信号后，同样的线长，数据一点没丢。

一个小技巧：判断一个信号是模拟还是数字，最简单的办法是看它能不能「断点续传」。模拟信号断了就断了，数字信号可以重传、纠错。

这个问题，我经常用一句话概括：信号是信息的物理载体，信息是信号的语义内容。

打个比方。你写了一封信。信纸和墨水是信号，信里的内容是信息。没有信纸，内容无处附着。没有内容，信纸就是一张废纸。

但这里有个坑——同一个信息，可以用不同的信号来承载。

比如「你好」这两个字：

信息没变，但信号形式千变万化。这就是为什么通信系统要解决的核心问题——如何把信息高效、可靠地转换成信号，再还原回来。

我曾经做过一个项目，需要把传感器数据通过无线方式传输。一开始我直接传原始电压值，结果发现信号衰减严重。后来我换了个思路——先对信息进行编码，再调制到载波上。效果立竿见影。这就是信息与信号分离设计的好处。

注意：信息在传输过程中可能会失真、丢失或被篡改。信号处理的核心任务之一，就是保证信息在信号层面的完整性和准确性。不要以为信号传过去了，信息就一定到了。

信息熵，这个名字听起来很高大上。其实它就是一个度量——度量一个系统的不确定性有多大。

我刚开始学信息论时，也被这个公式吓到过：

H(X) = -∑ P(x) * log₂ P(x)

但说白了，它就是在问：要描述这个系统，最少需要多少个二进制位？

举个例子。一个硬币抛掷的结果，只有正面和反面两种可能，概率各50%。那么它的信息熵就是：

H = -(0.5 * log₂ 0.5 + 0.5 * log₂ 0.5)
  = -(0.5 * (-1) + 0.5 * (-1))
  = 1 bit

也就是说，抛一次硬币的结果，只需要1个比特就能描述。0代表正面，1代表反面，完美。

但如果这个硬币被做了手脚，正面概率99%，反面1%呢？

H = -(0.99 * log₂ 0.99 + 0.01 * log₂ 0.01)
  ≈ -(0.99 * (-0.0145) + 0.01 * (-6.6439))
  ≈ 0.08 bit

你看，信息熵变小了。为什么？因为不确定性降低了。你几乎可以确定结果是正面，所以需要的信息量就少了。

关键理解：信息熵越大，系统越混乱，不确定性越高。信息熵越小，系统越有序，确定性越高。信息传输的本质，就是降低接收端的不确定性。

我在做数据压缩时，就经常用到信息熵的概念。比如一个文本文件，如果字符分布很不均匀（比如全是字母'e'），那它的熵就很低，压缩率可以很高。反过来，如果字符分布很均匀，熵就高，压缩就难。

嗯，这里要注意一点：信息熵是理论极限。实际编码很难达到这个极限，但它是我们努力的方向。

下面这张图，是我自己梳理的本章知识结构。你可以把它当作一个地图，随时回来对照：

这张图把四个知识点串起来了。你看，信息概念在最左边，信号分类在最右边，中间是它们的关系，底部是信息熵。整个逻辑就是：信息需要信号来承载，信号需要熵来度量。

好了，这一章的内容就到这里。信息与信号的关系，是后续所有课程的基础。你把这个搞清楚了，后面的调制、编码、信道这些概念，理解起来会轻松很多。