新黑暗时代：科技与未来的终结

普罗米修斯有一个弟弟，名叫厄毗米修斯（Epimetheus）。在希腊神话中，厄毗米修斯的任务是赋予万物生灵以不同的特长，他给了羚羊速度，给了狮子力量。48但是由于厄毗米修斯生性健忘，轮到人类的时候，他已经没剩下什么好的品性可以分配了，只能依靠普罗米修斯从众神那里盗取的火种和艺术，人类才勉强还算过得去。由此看来，人类获得的力量和tekhne（技艺，希腊语，是技术一词的词源）事实上是双重缺陷的产物：健忘和偷盗。这大概也是人类常常卷入战争和政治争端的原因，因此，众神决定赐予人类第三种品质纠正这种缺陷：尊重他人的社会政治美德和正义感，而这次将由赫尔墨斯直接平均地赐给每个人。

由于厄毗米修斯的健忘，人类需要不断超越自己的能力极限才能求得生存。普罗米修斯的馈赠则给了人类不断超越自我的工具。然而只有将两者与社会正义结合起来，技术进步才能惠及众生。

厄毗米修斯的名字是由希腊词汇epi（表示事情发生后）和mathisi（知识）两部分组成的，合起来就是后知后觉的意思。后知后觉是健忘、错误和愚蠢的特定产物，因此，厄毗米修斯也可以被视为大数据之神，代表着排外、破坏和过度自信（我们会在最后一章论证）。从某种意义上讲，大数据从源头上就被败坏了，它的原罪就是厄毗米修斯犯下的错误。

普罗米修斯的名字则是先见之明的意思，然而他却不具备与他名字相符的智慧。他本人代表着期盼，代表着对科学发现和技术发展的热情，代表着对未来的渴望和埋头前进的冲劲；他是资源榨取、化石燃料、海底电缆、服务器群、空调、快递送货、巨型机器人和受压迫肉体；他同时也是规模化和压迫的象征。他让我们重新堕入黑暗，却从不考虑前方究竟如何，不考虑在前进的过程中受到压迫的人们。知识的幻觉和人类对主导权的渴望掺合在一起，共同推动了进步的征途，但却掩盖了其对关键问题的理解能力的匮乏：当下正处于向黑暗时代转变的关键节点，除了进步和效率我们什么都看不到，唯一能做的就是巩固现有秩序，并提升它的运行速度。

第五章 复杂

133

143

因此，我们必须把站在另一个方向上的赫尔墨斯当做新黑暗时代的向导。赫尔墨斯代表着思在当下，既不囿于成见，也不屈从于内心的冲动。赫尔墨斯是语言和话语的启示者，坚信万物具有模棱两可的面目。从解释学（hermeneutics）的角度，或者说对技术的赫尔墨斯式理解指出了技术的谬误之处，它告诉我们真理绝不是那么简单，意义之外还存在着意义，答案也会是多元化的，并且很可能是无限的，绝不能简单地下结论。当我们的算法还无法专注于理想的状态；当我们的智能系统已经手握所有信息却仍然无法把握世界的时候；当流动的、处于不断变化中的个人特性还无法适应整齐划一的数据库框架时，就是我们需要赫尔墨斯的时候。尽管技术宣称自身拥有“瞻前顾后”(EpimetheanandPromethean）的能力，实际上它反映的是我们的现实世界，而非一个理想中的世界。当技术崩溃时，我们便能够清醒地思考；当技术变得晦涩难懂时，我们也便理解了世界的晦涩。尽管技术常常呈现出暖昧复杂的面貌，实际上它是在向我们传达现实的状态。我们并非是要驯服复杂性，而是从中吸取经验。

新黑暗时代|科技与未来的终结

134

144

认知 COGNITION

有一个关于机器如何学习的故事。假如你是美国军方，你肯定希望有能力发现敌人藏起来的东西。也许他们在树林里藏了一队坦克，涂上具有迷惑性的迷彩图案，停在林间树后，用枝叶遮挡着。光与影交织成的纹样，绿色与棕色颜料画出的奇形怪状，这一切与大脑视觉皮层几千年来的演化结果互相串联，使坦克的坚实轮廓变得飘忽不定、难以成形，与周围的植物融为一体。但如果有另一种观察方法呢？如果你能快速进化出一种视觉机制，能够察觉树林与坦克的不同之处，从而使原本难以发现的东西立刻跃入眼帘呢？

要达到这个目的，其中一种方法就是训练机器来寻找坦克。你可以集结起一个排的战士，让他们把多辆坦克藏到树林里，然后给它们拍些照片，就拍100张好了。接着你再拍100张只包含树木的照片，然后从两套照片中各选50张，展示给某个神经网络工具，即一款模拟人类大脑的软件。神经网络完全不认识什么坦克、树林或者光影，它只知道这50张照片里有某个很重要的东西，而另外50张照片里没有，它要做的就是找出两者的不同之处。它将通过多个神经元层对照片进行扫描，对图像进行微调并评判，但不带有进化过程在人类大脑中烙下的任何成见。过一会儿，它就能学会如何找到藏在树林里的坦克。

135

第六章

145

因为最初各拍了100张照片，因此就能检验这种方法是否可行。你可以取出另外50张坦克照片和50张空树林照片—之前机器并没见过它们——然后让它选出哪些带有坦克。机器一定能完美地完成任务。即使你看不见坦克，也知道哪些照片属于哪类，而机器在不知情的情况下也能做出正确选择。棒!你发展出了一种新的观察方法，可以把你的机器送到训练场去炫耀一番了。

但接着便是灾难性的打击。在实战时，树林里出现了一组新的坦克，而识别结果变得糟糕透顶。结果是随机的，也就是说机器识别坦克的准确率和抛硬币没什么两样。什么情况？

事实是美国军方在操作时犯了一个重大的错误。所有坦克照片都是早上拍的，当时晴空万里；等坦克开走，下午拍摄空树林的照片时，天空开始遍布乌云。研究者这才意识到，机器确实在好好运转，但它此前学会的并不是辨别照片中是否存在坦克，而是天气是否晴朗。

这个发人警醒的故事经常在机器学习的课堂上被反复讲起。故事不一定是真的，但它揭示了与人工智能、机器学习打交道时的一个重要问题：我们怎么知道机器学会了什么?坦克的故事中暗含了一个越来越重要的基本认识:无论人工智能发展成什么样，它始终与我们有着根本的差别，也让我们完全无法理解。尽管计算系统和可视化系统都在发展得更为复杂精细，但我们今天仍然无法真正理解机器学习的运转机制，而只能对其结果进行判定。

136

最初的神经网络可能是坦克故事某个早期版本的原型，它是为美国海军研究办公室(United States Office of Naval Research）研发的，被称为感知机（Perceptron）。和许多早期计算机一样，这是一台实际存在的机器：400个感光元件用鼠窝一样乱糟糟的电线随机连接到开关上，这些开关会在每一轮运行中修正元件的反应—这就是神经元。它的设计者，康奈尔大学心理学家弗兰克·罗森布拉特（FrankRosenblatt）为人工智能的可实现性进行了大力宣传。当马克1号感知机（PerceptronMarkI）在1958年公之于众时，《纽约时报》对此进行了报道：

海军今天披露了一种电子计算机的雏形，并预期它将来能行走、交谈、书写，能看得见、能自我繁殖，还能意识到自己的存在。据预测，下一代感知机将能识别不同的人，并叫出他们的名字，还能将一种语言即时翻译为另一种语言及文字。2

感知机的运行原理以联结主义（connectionism）为基础，这种理论认为智能是神经元互相联结所显现出的特性，通过模拟大脑的回路，就可能让机器产生思想。这种观点在此后十年间受到了无数研究者的攻击，这些研究者认为智能是对符号进行操作的产物：有些知识从本质上就要求对其进行有意义的逻辑推理。联结主义者和符号主义者之间的辩论界定了此后40年的人工智能范畴，引发了无数争执，并导致了众所周知的“人工智能寒冬”，很长时间里都没有任何进展。实质上，这场争辩不仅涵盖了什么是智能，更涵盖了智能中有哪些是可理解的。

第六章 认知

137

138

147

早期联结主义一位较为出人意料的支持者是弗里德里希·哈耶克（FriedrichHayek），如今他最著名的称号是“新自由主义之父”。哈耶克基于自己在20世纪20年代形成的思想，在1952年写成了《感觉的秩序:探寻理论心理学的基础》(TheSensoryOrder: An Inquiry into the Foundations of Theoretical Psychology)一书，该书销声匿迹了许多年，直到最近才因为一批倾向于奥地利学派的神经科学家又重新进入人们视野。在书中，他概述了内心的感觉世界与外部“自然”世界之间的根本差异。前者是不可知的，并且因人而异，因此科学—以及经济学——的任务在于建立一个忽略个体癖好的世界模型。

在世界的新自由主义秩序—由毫无偏见、不带感情的市场指导行动，而不受个体偏差的影响以及哈耶克对联结主义大脑模型的忠诚之间，不难发现某种对应关系。正如后来评论者所注意到的，在哈耶克的心理模型中，“知识分散、分布在大脑皮层中的方式，就像它分布在市场中的个体的方式”。3哈耶克为联结主义的辩护带有个人主义与新自由主义色彩，与他在《通往奴役之路》(The Road to Serfdom)(1944)中的著名论断遥相呼应，即任何形式的集体主义都会毫不留情地走向极权主义。

139

新黑暗时代科技与未来的终结

如今，关于人工智能的联结主义模型再次占了上风，其主要支持者就是像哈耶克那样的人，他们相信当产生知识的过程不再

148

带有人类自身的偏差时，世界就会自发出现一种自然秩序。于是我们又见到了关于神经网络的宣言，与其支持者们在20世纪50年代发出的一模一样—只不过这次其作用范围会更为广阔。

一在此前十年中，由于该领域内的几项重大进步，神经网络经历了一场宏大复兴，并为当前对人工智能所预期的变革奠定了基础。谷歌便是神经网络拥趸中的佼佼者。其联合创始人谢尔盖·布林（SergeyBrin）曾说过，由于人工智能的进展，“你得假定在某一天，我们制造出的机器能比我们更好地去推理、思考和做事”。4谷歌的首席执行官桑达尔·皮查伊（SundarPichai）总喜欢说，未来的谷歌将会是“人工智能先行者”。

谷歌（Google）对人工智能的投入已经持续了一段时间。根据谷歌2011年公开的内部项目“谷歌大脑”（GoogleBrain）显示，该项目已建立起一个包含1000台机器、16000个处理器的神经网络，谷歌团队从Youtube上精选出1000万张图片供它学习。5这些图片并没有标签，但神经网络逐渐演化出了识别人脸—以及猫——的能力，而此前它对这些东西的含义一无所知。

图像识别是用于证明智能系统能力的典型的起始任务，对于谷歌这样的公司来说也相对容易，因为其业务就是不断建设具有更快处理能力的更大型的网络，并从用户的日常生活中采集更大规模的数据（“脸书”也在运作一个类似项目，用400万张来自其用户的照片创造了一款名为DeepFace的软件，能以98%的正确率识别人脸。6在欧洲使用这款软件属于非法行为）。这款软件很快就不再只用于识别，而且也开始用于预测。

第六章 认知

在2016年发表的一篇引发大量讨论的论文中，来自上海交

140

149

图 ra Ca

通大学的两位研究者武筱林和张熙对自动化系统基于面部图像来推断“犯罪概率”的能力进行了研究。他们从网上找了1126张“非罪犯”的身份证照片以及730张已被法院和公安部门定罪的罪犯身份证照片，用这些照片来训练神经网络软件。他们声称，经过训练的软件可以区分罪犯与非罪犯的面部差异。

这篇论文的发表一石激起千层浪：科技博客、国际报纸、学术同行纷纷加入辩论。其中最直言不讳的批评指责武和张是在步切萨雷·龙勃罗梭(CesareLombroso)和弗朗西斯·高尔顿(FrancisGalton）的后尘，这两人都是19世纪的犯罪面相学支持者，并因此声名狼藉。龙勃罗梭开创了犯罪学领域，他认为颌骨形状、前额斜度、眼睛大小和耳朵结构可以用来确定一个人的“原始”犯罪特征，但这种论断在20世纪初就被揭穿了。高尔顿则发明了一种合成人像的技术，希望获得“典型”的罪犯面孔—一个人道德品质所对应的外貌特征。批评者称这种面部识别构成了一种新的数字颅相学，隐含着与其相同的文化偏见。

武筱林和张熙对于这种反应感到震惊，他们在2017年5月发表了一篇文章，做出了气愤的回应，除了反驳一些针对他们研究方法的更不科学的贬低之外，也将矛头—用专业术语—直接对准了那些批评者：“真没必要把那些没什么名气的种族主义者按年代顺序一一列出，并把我们加在最后。”8—就好像这个名单是按批评者的想法写成，而不是由历史自身决定的。

只要产生了道德冲突，科技公司及其他涉足人工智能领域者就会快速收回原先的说辞，哪怕明明是他们自己的鼓吹提高了公众预期。当右翼媒体英国《每日邮报》（DailyMail）用How-

第六章 认知

141

151

Old.net这款面部识别程序来质疑获准进入英国的儿童难民的年龄时，开发这一程序的微软立刻强调，这仅是一款“娱乐软件”，“本意并非用于精确评估年龄”。9武和张也发出了类似的抗议：“我们的工作只是纯粹的学术讨论，怎么会变成媒体消费的对象，也完全出乎我们的意料。”

有一项批评提出的考虑较为特别，突出体现了人脸识别历史中一个反复出现的套路其中隐含着种族色彩。在他们对罪犯与非罪犯的典型面容举例中，一些批评者发现非罪犯的脸上有“一抹笑意”——这是罪犯脸上所缺乏的一种“微表情”，表明他们处于紧张的环境中。武和张否认了这一点，但并非从技术角度，而是从文化角度：“即使已经被要求留心这种笑意，我们的中国学生和同事仍然没有观测到所说的这种情形。他们只是发现，下排面孔比上排显得更放松些。这里的不同理解可能是由于文化差异。”10

原论文中有一部分并未受到非议，即假设所有此类系统都可以避免在编码中被植入偏见。在论文开头，作者们写道：

不像人类检察官/法官，计算机视觉算法或分类器完全不带主观看法，没有情绪，没有因过去经验、种族、宗教、政治理念、性别、年龄等因素造成的偏见，不会出现精神疲劳，不会因一次睡眠不足或饮食不当而影响结论。对犯罪概率的自动推断彻底消除了元知觉准确性（即人类检察官/法官的专业能力）的波动。11

142

新黑暗时代科技与未来的终结

152