奎克的藏经阁 · MinerU 解析内容

什么是信息

263 个 PDF 物理页 · 本页显示文件第 51–60 页

PDF 物理页索引 50

文件中的第 51 页 · 印刷页码:未识别

通信理论在基本哲学和理论上都深受维纳的影响。他那篇经典的NDRC报告《平稳时间序列的内插、外推与平滑》(The Interpolation,Extrapolation andSmoothing of Stationary Time Series. Wiley,1949)率先提出明晰的通信理论,将其视为统计学问题、时间序列的运行研究问题。虽然那篇报告主要研究线性预测和过滤问题,但和我们这篇文章形成重要的并行关系。在这里,我们还要提及维纳的《控制论》(Cybernetics. Wiley,1948),他那本书论述通信和控制的一般问题。

PDF 物理页索引 51

文件中的第 52 页 · 印刷页码:未识别

第五节 麦凯的反转:香农信息的意义何在?

根据香农的论述(1948,p. 379),他的信息定义并不和意义产生联系。

通信的基本问题是在某一点上准确或大概复制在另一点上选择的讯息。讯息常常是有意义的。换言之,它们根据某一系统指涉某些物理实体或观念实体,或与之有关联。通信的语义方面和工程问题没有关系。语义的方面是,实际的讯息选自于一套可能的讯息。

韦弗为香农的《通信的数学原理》(A Mathematical Theory ofCommunication)作序,他同意香农的论述。他写道:“‘信息’和‘意义没有关系’,虽然它的确描绘一个‘模型’。”香农又暗示,以讯息为形式的信息常含有意义,但意义并非界定信息的必要条件。所以没有意义的信息是可能存在的,无论那意味着什么。

信息科学界并非人人都喜欢香农的信息定义。香农提出该定义后三年,麦凯(1951)在第八届梅西会议(the 8<sup>th</sup> Macy Conference)提出理解信息性质的另一条路径。1946年至1953年间召开的论控制论、系统论、信息和通信的一系列梅西会议影响很大。在这些会议上围绕韦弗新提出的控制论和香农早前提出的信息论,参与者展开了激烈的争论,他们是一批令人神往的著名跨学科学者,包括沃伦·麦卡洛克(Warren McCulloch)、沃尔特·皮茨(Walter Pitts)、贝特森、玛格丽特·米德(Margaret Mead)、库尔特·卢因(Kurt Lewin)和冯·诺依曼。麦凯称,他看不到“通信工程里所用的信息概念与我们今天会议讨论的要义有什么密切的关系……这里的问题与其说是寻找最佳的符号编码……不如说是决定发送什么、向谁发送的问题”。他说,信息应该定义为“接收者心态的改变,因此信息有意义”,信息的定义不应该仅限于发送者的信号(Hayles 1999b,p. 74)。信息独立于其意义或语境的概念就像是观赏脱离背景的外形。背景一变,外形的意义随之而变。

PDF 物理页索引 52

文件中的第 53 页 · 印刷页码:未识别

香农把信息界定为模型或信号的立场最终占据优势。麦凯定义的问题是,意义不能计量或定量。结果,香农的定义胜出,从此改变了信息论的发展。香农相比麦凯的优势是,他把信息定义为信号,而不是意义,因此他有能力把信息数学化,并证明一般的定理:独立于媒介并带有信息的定理。香农把电信工程和数学结合起来的理论后来定名为信息论。具有讽刺意味的是,《牛津英语词典》举例说明“信息论”的初始源头时,引用的是麦凯在一篇文章提要里的一句话,那篇文章发表在1950年3月的《哲学杂志》(Philosophical Magazine)上。

香农定义信息的动机是创造一种工具,以分析如何增加通信时信号对噪声的比率。同意麦凯立场的人抱怨,香农的信息定义不能充分描绘通信。香农不予赞同——“他常常告诫人们说,理论意在应用于某些技术情境,而不是通用于通信”(Hayles 1999b,p. 74)。他承认,他的定义完全独立于意义,但他又坦承他研究的通信线路上传输的信息常常是有意义的。在贝尔实验室原创的一篇论文里,有他这一段话为证:

通信的基本问题是在某一点上准确或大概复制在另一点上选择的讯息。讯息常常是有意义的。换言之,它们根据某一系统指涉某些物理实体或观念实体,或与之有关联。通信的语义方面和工程问题没有关系。语义方面是,实际的讯息选自于一套可能的讯息。系统的设计必须是为了一切可能的选择运行,而不是为了实际选中的某一选择运行,因为起初设计时,这个特定的选择尚不为人所知。如果集合里的讯息数是有限的,这个数字或它的任何单一函数就可以被视为信息的计量,这个信息量是由讯息的集合中挑选的某一讯息产生,而一切可能的选择都可能是同等的。(Shannon 1948,p. 379)

香农要求,可能选择的数目是有限的,而我们考察生物信息时,这将是关键的问题。我欣赏香农对自己信息定义的坦诚,他的设计是要处理他所面对的工程问题。他很清楚,他的定义并不是独一无二的定义,只不过是适合他工程要求的定义。在《信息格理论》(TheLattice Theory of Information. 1953)的摘要里,他写道:

PDF 物理页索引 53

文件中的第 54 页 · 印刷页码:未识别

在信息论场域里,“信息”一词被赋予了太多不同的意义。可能,在某些应用里,至少其中一部分将被证明是并非充分有用的,不值得进一步研究,得不到永久的承认。不能指望,独一无二的信息概念能令人满意地解释信息论领域的许多可能的应用。本文勾勒信息论的一个新路径,旨在分析某些通信问题;在这里,许多信息源在同时运行。

我觉得非同凡响的是,他自己承认范围局限的信息定义成为标准,且几乎一切形式的信息都用他这个定义来判断。有一些香农信息定义轻微的变异,比如安德列·柯尔莫哥洛夫(Andrey Kolmogorov)的定义,那是用来计量最短的0和1字符串的定义,用于达成编程效果,以便在计算机或图灵机上显示文本。香农信息这些略有变异的表述被当作权威的信息定义,除了少数批评家之外,几乎被所有人所接受。

在以上的香农引语里,我突出被选和选择两个词,以突显一个事实:香农的信息定义必然和前定的一套数据有关,而这些数据未必有任何意义。麦凯利用香农定义的选择因素,将其和自己的定义区别开来;不同于香农的是,他的定义明确包含意义。但他也不得不捍卫自己的定义,反驳指责他主观的抨击。

麦凯反驳的第一个举措是解救信息,使之摆脱影响接收者心态的“主观”标签。他提出,香农和巴维拉斯(Bavelas)都关注他所谓的“选择性信息”:即考虑从一组讯息成分中挑选信息时所计算出来的信息。但选择性信息还不够充分;另一种所谓的“结构信息”还是需要的。“结构信息”显示如何理解“选择性信息”。“结构信息”是如何解读一条讯息的讯息,一种所谓的元通信(metacommunication)。(Hayles 1999a,pp. 54—55)

结构信息若要成功解释选择性信息或香农信息,它就必然涉及语义学和意义。它关注的是信息对接收者头脑的影响和冲击,因此它就是自反性的。结构信息和语义学及语用学有关系,语用学试图在句子直解和说话人或书写人有意传达的意义之间架起一座桥。相反,香农信息和语义学或语用学没有特别的关系。香农信息只关心讯息的文本,不关心发送者意向,也不关心接收者的解读。

PDF 物理页索引 54

文件中的第 55 页 · 印刷页码:未识别

抗拒麦凯信息概念的部分原因是,其定义含有主观性,正统科学家的理论不能忍受主观性。香农信息阵营不考虑人类信息交流还有主观性的事实,他们忽略信息和通信里这个基本元素。步入逻辑结论时,这种态度把科学局限于不涉及主观性的领域,永远把语用学和其他社会科学打入非科学分析的另册。然而如果根除科学、社会研究里的主观性,社会科学的表述本身就是自相矛盾的。

这就提出一个问题:主观性是否可以研究。我要说,我们需要一种平行于量子物理学的路径。亚原子粒子的测量改变了它们的运行态,需要量子力学来予以表征,包括海森伯的不确定性原理的表征;同理,为了主观性的科学研究,我们需要类似的方法论——我将其称为量子修辞。毕竟,传播学和媒介环境学只不过是研究一组主观人与另一组主观人如何交流。香农成功地把主观性驱逐出通信,对他研究的工程目标,那是不错的。我完全尊重他,他总是告诫人们说,他无意把自己的信息定义当作传播理论。但有些人误用了香农的成果,延伸过度。

PDF 物理页索引 55

文件中的第 56 页 · 印刷页码:未识别

第六节 信息:造成差异的差异

香农脱离意义的信息概念成了信息论的核心主题,但麦凯的反转并非没有影响,结果,人们看待信息就产生了一点小小的偏移。无疑,读者熟悉贝特森(1973,p. 428)非常著名的信息定义:信息乃“造成差异的差异”(the difference that makes a difference)。深埋在这句精炼定义里的概念是:造成差异的是信息的意义。人们把这个概念归功于贝特森,但情况可能是这样的:他受麦凯的影响。此前四年(1969),麦凯就在《信息、机制与意义》(Information,Mechanism and Meaning)一书里写道:“信息是造成差异的特色(Information is a distinction that makes a difference.)。”贝特森、麦凯和香农都出席了梅西会议,贝特森熟悉麦凯的思想。麦凯定义里的“特色”比贝特森定义里的“差异”与“意义”的关系更紧密。具有讽刺意义的是,指出香农信息定义缺陷的麦凯率先使用“信息论”一词,并率先指出,信息的重要性在于其意义,意义造成差异。麦凯是造成差异的学者,他的功劳大于他通常得到的赞誉。

另一个含有意义概念的一句话定义是弗雷德金作出的,我想把它和麦凯、贝特森的定义归入志趣相近的一类。他写道:“信息的意义是解释信息的过程赋予的。”这个定义很有趣,因为它清清楚楚地包含这样一个概念:信息依靠语境。

如果信息是造成差异的特色(麦凯)或差异(贝特森),那么,如果没有特色或差异,就不会有信息。这就意味着,混沌或随机数不含有信息,因为数字流的一部分没有差异或特色,与之相对的是缺乏组织的另一部分数字流。这个结果和香农的结论截然相对;香农称,随机数字流含有最大限度的信息。一方面,每个元素都不同于下一个元素,都全然是意外,这是真的;另一方面,混沌和随机性的总体模型又是相同的,随机数字流其中并无特色,亦无差异,这也是真的。在同样温度、压力和体积条件下的气体保持稳定,却又在时常变化,但人们并不能区分气体在此一时刻和彼一时刻的差异。气体在这两个时刻运行的方式并无差异。你能察觉到的唯一信息是气体的体积、压力和温度,这是不会变的。这样的气体不能做功。然而如果这个体积的气体里有温差,就可以从气体里提取功;由于温差组织的方式,气体里就有信息。这就提出了一个问题:组织是不是信息?在本章介绍生物系统信息的性质后,我们将回到这个问题。

PDF 物理页索引 56

文件中的第 57 页 · 印刷页码:未识别

PDF 物理页索引 57

文件中的第 58 页 · 印刷页码:未识别

第七节 生物系统里的信息

早在1925年,费希尔就论及作为一种抽象的信息概念,1948年,香农把信息形式化。不久,生物学家开始谈论信息。1953年,《牛津英语词典》列出生物学最早使用信息一词的两个例句:

1953 J. C. ECCLES Neurophysiol. Basis Mind i. 1:“我们可以说,一切‘信息’都是以神经冲动编码的形式在神经系统里传导的。”

1953 WATSON,CRICK in Nature 30 May 965/2 :“长链分子里可能有许多不同的序列,因此,碱基的准确序列就是承载遗传信息的密码。

这个语境里信息的使用不是费希尔和香农那种信息的数学化,而是被定性地认为能传输或传递给有机体里的某种东西,或者是以核酸系列序列形式储存在机体里的东西。

PDF 物理页索引 58

文件中的第 59 页 · 印刷页码:未识别

第八节 作为组织繁衍的生命

考夫曼(2000)将自主行事并繁衍组织的行为体(或有机体)定义为:完成一次以上热力循环周期的集体自催化系统。有机体里的信息和香农信息论处理的信息是何关系?虽然系统生物学和生物信息学近年很重视生物系统,但这个问题并不是很清楚的。为了考察这个关系,我们一组同仁挑起这个担子,去研究生物系统里信息的性质和流动。研究结果是我和考夫曼等人发表的论文POE。我们说明,香农信息不能用来描绘生物系统里的信息。我们还证明,信息不是独立于参考框架的不变量。

我们认为,香农(1948)将信息作为不确定性减少的量,这个经典定义不适合自组织繁衍的生物系统。文章的论点是,香农信息“不能应用于生物域的演化”,因为达尔文的预适应是不能预测的,因而“可能性的集合及其熵是不能计算的”(Kauffman等人 2007)。因此,“信息乃不确定性减少的量”的定义没有道理,因为无论你从生物系统的信息里了解到多少东西,其中的不确定性始终是无限的,因为能演化的可能性是不可数的、无穷多的。香农下定义时,他明确指出,讯息数必须是无限的。

我们界定一种新形式的信息,而不是界定香农信息,我们称之为学习信息或生物信息。

我们研究的不是香农信息,而是研究约束条件或边界条件。信息量与约束条件的多样性和过程的多样性相关。迈出这一步时,我们把信息概念嵌入了生物域正在进行的过程,因为它们和生物域里正在展开的事情有因果关系。因此我们断定,约束是信息……信息是约束……我们用“学习信息”来表达这个概念,因为这种信息行使教育功能,有时我们称之为“生物信息”,因为这是它起作用的领域,和人类通信系统或计算机信息系统不一样,香农信息是在那些系统里运行的。(Kauffman等人 2007)

PDF 物理页索引 59

文件中的第 60 页 · 印刷页码:未识别

有机体是开放系统,冯·贝塔朗菲(von Bertalanffy 1968,p.149)将其“定义为这样一个系统,它与环境交换物质,呈现出进口和出口,建立和打破其物质成分”。因此,学习信息或生物信息可以定义为能量和物质交换的组织。

我们在POE里指出,作为学习信息的约束条件是细胞运行组织繁衍的必备条件。

在一定意义上,细胞的运行机制是一个复杂的约束条件或边界条件网络;一定程度上,这些条件指令事件的发生,或使之发生。重要的是,细胞里的繁衍组织是作为学习信息的约束条件的结构融合,是做功能量的释放,是信息复制建设里的功的使用,是其他结构建设里的功的使用,是作为学习信息的进一步约束的建设。这种学习信息进一步约束能量的多种释放方式,这一切繁衍过程的组织完成了任务的关闭,细胞的复制得以完成。(Kauffman等人 2007)

在POE里,我们把生物信息或学习信息与环境联系起来,使生物环境因子得以繁衍。这和香农信息定义对立,和另一种观念也是对立的:和有机体里的有结构、有组织的有机化学物群组相比,有机化学物随机群组里的香农信息更多。

然而,生物主体具有的意义多于生物汤的意义。具有更多结构和组织的有机体具有较少的香农信息。在直觉上,这和生物学家对有机体的理解是相悖的。因此我们断言,用香农信息描绘生物系统是行不通的,这样的描绘简直就是一个分类错误。有机体之所以有意义,那是因为它是一个自足自立的行为体。有机化学品的随机溶液既没有意义,也没有组织。(Kauffman等人2007)

POE一文的分析揭开了一个关键事实:香农信息可以独立于意义去定义,而生物信息或学习信息与有机体的组织紧密相连。因此我们认为,系统里的组织是一种信息,这样的信息概念比香农信息更具活力,因为香农信息只不过是一串符号或比特而已。