按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
宋侄鸟坏貌辉诟浇牡栏窭勾蠼稚下粢跚＞菔访芩顾担笔倍某「浇昵崞恋募伺嗟氖牵矍挥�3美元。所以，这个女人只好把价钱降下来，客人给多少就是多少，每次只收50美分，〃法罗〃接受下注的最低金额也正是50美分。
偶然性、混乱、不确定性
在一封于1939年写给万尼瓦尔布什教授的信中，申农写道：〃过去一段时间，我在时断时续地对信息传输的基本属性进行研究，包括电话、无线电、电视以及电报等等。〃这封信对信息论进行了大致的描述。正如申农后来认识到的一样，他的信息论和赌徒破产现象之间竟然存在着惊人的关联。
在申农提出信息论之前，大多数工程技术人员都认为各种通信媒介之间没有什么关系，对电视适用的原理通常对电报就不适用。就像中世纪时期建造教堂的设计师一样，通信工程人员通过反复的试验纠错已经认识到了各种媒介各自在技术上的局限性。通过反复的试验纠错、改正的过程，他们发现了哪些事情在现实中是行不通的。
但是，申农觉得各种通信媒介还可以进行进一步的综合化和系统化。虽然他当时在贝尔实验室和布什教授一起工作，但很显然，他在到贝尔实验室工作之前就已经想到了这一点，完全没有借助任何布什的帮助。申农的理论后来给ATandT公司带来了明显的经济收益。
你家里可能安装了光纤电缆，通过光纤电缆可以传输电视信号、音乐广播、因特网内容、语音通话，以及所有我们统称为信息的所有内容。光纤电缆就是一种典型的〃通信渠道〃，像一条管道一样传输各种信息。在某些方面，光纤电缆和你家中的供水管道有些相似之处。对于自来水管道来说，传输容量取决于管子的内径；而对于通信渠道来说，传输容量取决于带宽。
除了管道内径，影响水流流量的因素还有摩擦力。水流和管道内壁之间的接触摩擦会导致水流速度减缓，从而影响流量。影响通信渠道的〃摩擦力〃就是对信息构成歪曲的噪音干扰。当时的工程技术人员通过多年实践总结出了一条规律：噪音干扰会降低信息流量。如果噪音干扰过于严重，就会导致无法传输信息。
但是，在光纤电缆（或任何其他通信渠道）和自来水管道之间还有一个非常重要的区别那就是，至少在家用管道可以承受的压力范围内，水是无法压缩的。一加仑的水必须占据一加仑的管道容量。我们不可能把一加仑的水压缩成一品脱，以便加大水的流量。但信息就不一样了，大部分信息都可以轻而易举地被缩写或压缩，而不会丢失任何内容和意义。
19世纪末电报刚刚付诸使用时，由于传输渠道带宽限制，电报员通常会把不必要的词语、字母及标点符号删掉。即使在今天，手机用户在发送短信息时也会使用词语的各种正式及非正式缩写形式。只要信息接收方能看懂，信息的缩写和压缩就不会引起任何问题。从这个角度看，信息和橙汁有几分相似。在巴西，人们常把橙子煮成浓缩的原浆之后再运到美国出售，这样可以大大降低海运成本。而浓缩的橙汁原浆运到美国之后，美国的消费者只要加入适量的水，就可以得到正常浓度的橙汁了。高效地传输信息同样需要类似浓缩和稀释的这两个程序。当然，不论信息还是橙汁，在浓缩过程中都难免会失去一些比较微妙的内容或味道。
第24节：第一章（20）
对信息进行压缩的最有效的方法之一就是编码。移动电话和因特网在传送信息时都要进行编码，这是一个自动的过程，作为使用者我们不需要亲自参与。与平常使用的单词缩写相比，优秀的编码系统可以以惊人的效率对信息进行压缩。
摩斯为电报设计的点划编码系统就较好地保证了效率。根据摩斯的编码，英语中最常用的字母E相对应的编码最短，只用一个点来表示，而其他不常用的字母，如 Z，就用比较长的编码表示。和其他电报编码相比，摩斯码以更简洁的形式传达了更多的内容，所以得到了广泛的应用。这些原则同样适用于我们今天对音频、视频以及数字图片等信息的编码压缩。通过这些编码压缩系统的成功运用，我们可以看到信息就像是海绵一样，里面所含的〃空气〃要远远多于〃实质内容〃。在完整保留实质内容的前提下，完全可以把多余的空气挤出去。
而在申农提出信息论之前，所有研究人员关注的问题就是：到底什么是信息中不可缺少的〃实质内容〃？对大多数人来说，信息的〃实质内容〃就是信息的含义。除了含义，构成信息的所有其他成分都可以不要。没有含义，就不能构成通信。
然而，申农所提出的最激进的理论就是：含义在信息传输中无关紧要。按拉普拉斯的话说，含义只是申农不需要的一个假设。申农所提出的信息的概念是和偶然性联系在一起的。申农这样定义信息不光是因为偶然发生的噪音会影响信息的传输。只有在信息接收方不知道信息发送方所说的内容且无法预测该内容的情况下，才能构成信息的存在。由于真实的信息无法预测，所以信息的传输实际上是由一连串的偶然事件构成的，就像赌场轮盘的旋转和骰子的滚动一样。
如果真的如申农所提出的理论一样，信息的含义可以抛弃，那么每个单条信息中不可压缩的内容又会是什么呢？克劳德 申农认为，信息中不可压缩的内容可以通过数字进行描述。问题的关键在于构成信息的各种符号的不可预测性到底有多高。
前不久，有家电话公司在广告中讲到了一个由于移动电话噪音而引起误会的笑话。有个农场工人打电话订购〃两百头公牛〃，由于噪音太大，结果送来了两百只德国猎狗；还有个女人给丈夫的办公室打电话，让丈夫回家时买瓶洗发香波，结果她丈夫买回了一条杀人鲸。
从上面这两则广告中我们可以看到，虽然平常可能没有意识到，但实际上我们都从潜意识上认同并理解申农的关于信息的概念。我们试着分析一下杀人鲸那条广告的内容：1）妻子说：〃买瓶香波〃；2）丈夫听成了〃买条杀人鲸〃；3）丈夫随即结束了通话，说了声再见，就回家了，在路上买了条杀人鲸。
使我们感到可笑的只是上面的第三个行为。之所以可笑，是因为在日常生活中，几乎不可能会有〃买条杀人鲸〃这样的要求。在实际的交谈对话中，人们总会努力猜测对方接下来要说什么话。我们会不断更新自己对谈话所了解的信息，预测下面会说到什么内容，以及什么样的内容与当前的对话完全无关。参与对话的双方越亲近（不论是从个人关系上讲还是从文化背景上讲），这种预测就会越准确。很多结婚多年的夫妇只要对方说出几个字就可以猜出下面是什么内容。青春期的密友有时只要收到一条三个字符的短信就会兴奋地大呼小叫。
但是，如果你和谈话的另一方初次见面，或者文化背景不同，那么，上面提出的各种缩略形式就会失去作用。如果所传达的信息无法预测，即使和自己的爱人也不能使用过于简略的形式。
如果你真的希望你爱人买条杀人鲸回来，你不会仅仅说：〃买条杀人鲸。〃你至少需要做上一番解释。信息传达的内容越不可预测，信息本身就越不可压缩，而所需要的带宽就越大。这也就是申农的观点所传达的内容：信息的关键在于内容在多大程度上可以预见。
申农并不是从这个角度对信息进行定义的第一个人。在他之前，同样曾经在贝尔实验室工作的科学家哈里 奈奎斯特和拉尔夫 哈特莱就提出的类似的想法。申农在大学期间读过拉尔夫 哈特莱的论文并将其称之为〃对自己有最大的影响〃。第25节：第一章（21）
在提出这些关于信息论的设想之后，申农需要给信息中不可压缩的实质内容起个名字。对于这种不可压缩的实质内容，哈里 奈奎斯特称之为情报，拉尔夫哈特莱称之为信息。在申农早期的论文中，申农偏向于使用哈里奈奎斯特提法。在军事行动中，〃情报〃这个词常常和密码破译工作联系在一起。同时，〃情报〃还可以用来指含义，而申农的理论和信息的含义完全无关。普林斯顿的高级研究所的数学家约翰 冯诺伊曼建议申农使用〃熵〃来命名这个概念。熵是个物理学的概念，大致用来描述偶然性、混乱无序、以及不确定性。熵这个概念是在研究蒸汽引擎的过程中产生的。经过研究，科学家发现偶然产生的热能无论使用什么方法也不能转换成可以使用的能量。必须保证一定的温差（由高温的蒸汽推动活塞压缩冷空气），蒸汽引擎才能运行。随着温差的减小，蒸汽引擎会慢慢停止运转。物理学家把这个过程描述为熵的增加。根据著名的热力学第二定律，宇宙中的熵总是在不断增加的。一切事物都会慢慢衰败，最终把能量耗尽。
约翰 冯诺伊曼告诉申农，用〃熵〃来命名这个概念谁也挑不出毛病来，因为很少有人知道〃熵〃的真正含义。约翰 冯诺伊曼这样说并不完全是开玩笑。事实上，物理学中熵的方程等式与申农理论中信息等式的形式完全相同（两个等式都使用同样的概率算法）。申农接受了约翰冯诺伊曼建议，不但用〃熵〃来给自己提出的概念命名，而且借用了熵的代数符号，罗马字母〃H〃。申农后来把自己在马萨诸塞州的房子命名为〃熵宅〃，只要你看看房子里的布置就会觉得这个名字起得恰如其分。
在提到这件事时，罗伯特 法诺回忆道：〃当时我不喜欢信息论这个名字。而且，申农也不喜欢。〃但是，很多人都很喜欢〃信息〃这个字眼，结果，不光申农的理论被冠以〃信息论〃这个名字，而且就连信息内容这个概念也用信息来替代了。
赶潮流
关于信息论