信息论：新帝国的“理论基石”

信息论包括两大定律：

1.香农第一定律，即信源编码定律。

2.香农第二定律，即香农公式。

1948年，在划时代论文《通信的数学原理》中，正是这篇“20世纪最重要的硕士论文”，标志着信息论的诞生，直接炸出了一个新的学科：信息学。这个世界所有的信息都可以用0和1来表示，香农带领人类从工业时代进入了信息时代。

香农提出了“比特”和“信息熵”的概念。

比特是香农自创用来测量信息的单位，现已跻身于公尺、千克、分钟之列，成为了日常生活中最常见的量纲之一，是计算机最小的数据单位。

例如“香农真的好牛逼”这七个汉字一共是112bits，一个汉字两个字节，一个字节8bits，总共就是7＊2＊8bits。

“信息熵”则是香农从热力学中偷过来用的，专门用于描述信源的不确定度，是消除不确定性所需信息量的度量。公式表示如下：

这个公式不在这里具体展开，“信息学”专业同学曾经被它反复虐过，这里不再勾起伤心往事。

关于信息熵的公式，物理学家张首晟曾经感慨：这个公式虽然不像E＝mc2那么知名，但人类知识往前推进，牛顿力学可能不对，量子力学可能不对，相对论可能也不对，而信息熵公式却是永恒的。

定义以上信息之后，香农提出“信息学”的两大定律：

香农第一定律叫做信源编码定律，简单讲就是教会人类如何用数学方式将“信息”编码。

香农第二定律描述了一个信道中的极限信息传输率和该信道能力，这是现代通信的“金科玉律”。

香农的信息论在新时代掀起了一场信息革命，一个新帝国正以前所未有的速度崛起。

什么是“香农公式”？

敲黑板，划重点，谈谈“香农公式”。

1948年，香农提出的信息熵，解决了电报、电话、无线电等如何计量信号信息量的问题。

但怎么在远距离通信中进一步提高信道容量？也就是信息传送速率上限，即“香农极限”。

这是个令人捉急的烦恼，不能一辈子总是只发几个字的电报吧。

但信息这玩意儿无质无量，谁知道到底是什么在影响它的速率呢？

这就是高手存在的意义。香农给出了信道容量公式，也就是“香农公式”，这使得至今几乎所有的现代通信理论都是基于这个公式展开。其数学表达式为：

其中：C为信息速率的极限值；B为信道带宽（Hz）；S为信号功率（W）；N为噪声功率（W）；S／N表示信噪比。

我们可以简单地把信息通道看作是城市道路，那么在这条道路上的单位时间内的车流量就受到道路宽度和车辆速度等因素的制约，在这些特定制约条件下，单位时间内最大车流量就被称为极限值。而根据香农定理，由于受到一些固有规律的制约，任何信道都不能无限增加信息传送的速率。

从香农公式中我们可以看出，想要提高信息的传送速率关键在于提高信噪比和带宽。

同时，C一定时，B与S／N可以互换，即带宽和信噪比可以互相交换，也就是说，在传输速度不变的情况下，提高带宽可以容忍更低的信噪比，反之亦然。带宽和信噪比的互换是扩频通信的理论基石，通过增加带宽，我们甚至可以轻松应对小于0的信噪比。

香农公式虽然总共才112bits，却是“信息时代”的极简《圣经》。

它是现代“信息革命”必须遵循的基本原理，也是“数字通讯时代”不可逾越的底线。

造物主就是这样，世界很简单，原则就两条，你们自己玩去吧。

信息时代：在“香农公式”中追逐极限

香农到墙角玩自己的杂耍去了，而全世界为他的公式疯狂。

从1G至2G至3G至4G，甚至到5G的通信变更，全世界一流的通信运营商和生厂商也一直废寝忘食地追逐着香农极限。

在这期间，以香农公式为通信理论之基，通过不断革新技术，提高信噪比，增加带宽，我们也经历了大约每十年就发生一场时代剧变的移动通信技术演进史（如图14－3所示），生活也因此而瞬息万变。

图14－3

1986年左右，依托着频分多址（FDMA）技术，1G时代崛起，生活在信息依靠模拟信号传递的世界，我们手拿高昂的“大哥大”，躲在墙角里，四处寻找能听得清楚对方讲话的最佳方位。

1995年左右，挥别1G，时分多址（TDMA）技术使我们进入到了2G世界，诺基亚7110开启了人类手机上网的时代，也开启了160字长度的短信来回传递的甜蜜夜生活，数字移动电话逐渐取代模拟移动电话，一代巨头摩托罗拉也就此走下神坛。

2007年左右，码分多址（CDMA）技术大行其道，伴随着智能手机iPhone的出台，3G网络火了起来，手机APP生态系统开始建立，乔布斯手握触控式屏幕的苹果一举成功打败了按键盘的诺基亚。

2013年左右，正交频分多址（OFDMA）技术引发变局，4G以更高速的上网速度开创了移动互联网时代。我们用微信语音聊天，通过支付宝扫码付款，看抖音短视频消遣娱乐，手机已成为我们生活中不可或缺的一部分。

短短几十年，依托着香农定理建立起来的通信技术和系统，无时无刻不在以更快的速度推进时代进程。如图14－4，2G实现从1G的模拟时代走向数字时代，3G实现从2G语音时代走向数据时代，现在，4G又开始要从移动互联时代向5G万物互联时代迈进。

图14－4

速度越来越迅猛，改变越来越剧烈，在更大的带宽，更高的传输速率之下，收获的是不仅是更低的通讯资费，而是更便捷的生活方式，以及更高效的生产效率。

那即将到来的5G又会给我们的生活带来怎样的改变？它有以下3个基本特点：

1．eMBB大带宽：下载速率理论值将达到每秒10GB，将是当前4G上网速率的10倍。

2．uRLLC低延时：5G的理论延时是1ms，是4G延时的几十分之一，基本达到了准实时的水平。

3．mMTC广联接：5G单通信小区可以连接的物联网终端数量理论值将达到百万级别，是4G的十倍以上。

届时，VR／AR、自动驾驶等应用跃跃欲试，5G又是否会迎来人与物、物与物之间的通信，实现万物互联？

答案未知。也有声音说别狂吹5G了，但无疑如何，新的一轮信息技术革命已即将来临。

不过，这一切，仍然在“香农公式”的指掌之间。

与E＝mc2比肩的香农公式

人类文明史上有许多让人为之魂牵梦绕的公式。

它们有的简洁美艳不可方物，有的高深莫测让人膜拜。

但从实用层面来讲，香农公式至少可以排在前5位，它的伟大程度可以与爱因斯坦的E＝mc2相提并论。

无论是1G、2G、3G，还是4G、5G，甚至是未来的6G、7G，万变不离其宗，全部都是在香农公式中寻找力量。大卫·福尔内曾称赞：“香农重新建造了一个全新的世界，从宙斯的额头开始”。

人类从狼烟烽火到邮政印刷，从电报广播到网络通信，这是技术的进步，是超越国家主权的物理存在。这种荣耀不仅仅属于一个公司，一个国家，也属于全人类，它最终惠及所有人。

没有哪个国家永远是第一的。中美欧在通讯标准上的“皇帝轮流做，明年到我家”，已经说明了这一点。

所以，在这样的技术问题上，尽量避免动辄用“中美主宰”“技术霸权”这样的字眼，真正的较量应该用在技术的研发和对未来的思考上。

如果真要谈谁是5G的主宰，那它只能是“香农公式”。（作者：李卍）