比如设想我们猜一个以字母S开头的英文单词。如果下一个字母是z，它包含的信息就比a更多，因为a包含的冗余比 z多，也就是说以Sa开头的单词为数众多，但以Sz开头的词是屈指可数的。因此对维纳来说，信息与熵对立，在香农那里则恰恰相反。
维纳理论中的信息与熵的关系来自热力学。①按照热力学第二定律，孤立系统中的熵不能减少，也不能在可逆转换或平衡状态下保持不变；在自发的过程中，熵只会增加，且这个过程是不可逆的。例如热量会从热的物体传递到冷的物体，但相反从冷的物体向热的物体传递是不可能的(这也是鲁道夫·克劳修斯[Rudolf Clausius]对卡诺循环[Carnot cycle]的批判以及克劳修斯对热力学第二定律的定义)。可以这样描述麦克斯韦妖：一个装有单一类型气体粒子的容器，其中的粒子按不同的速度运动。容器分成两个腔室。现在想象有一个小东西(后来被称为麦克斯韦妖)能打开两个腔室中间的[131]阀门，使运动较快的粒子到其中一个腔室，较慢的粒子到另一个腔室。这样，似乎热量就从冷物体移动到热物体上了，这就违背了热力学第二定律。那么这个恶魔是什么？它是如何获得信息的？问题究竟在于光(维纳)、记忆(利奥·西拉德Leó Szilard）还是知识（莱昂·布里渊Léon Bril-louin])②不是我们主要关心的事，但这意味着，有可能构建这种小妖来违反热力学第二定律，以抵御同质和无序化的倾向，并对抗宇宙的退化。埃尔温·薛定谔在他的《什么是生命》(What Is Li fe)一书中提出了负的熵(negative entropy)的概念，以描述生命的自我保护，后来莱昂·布里渊将其缩写为负熵(negatropy)。①正如我们前面看到的，维纳也把有机体的概念整合进他的反馈和信息理论中：“有机体被看作信息。它是混沌、解体、死亡的对立面，正如信息是噪音的对立面。”②
164
递归与偶然
①香农对熵的用法来自冯·诺伊曼。
②见马修·特里克(Matthieu Triclot)，《控制论的时刻》(Le mo-ment cybernétique)，赛塞尔:Champ Vallon,2008年，第 236—249页。