新黑暗时代：科技与未来的终结

照片修图几乎和摄影技术的历史同样悠久，但在这个例子中，针对个人记忆产物的操作是自动发生的，让人难以觉察。不过这其中或许也有值得学习之处：虽然迟到，这却揭示出照片本来就是虚假的本质，是人为截取的一个时刻，而这些时间截面都处于多维时间流的推动之中，并不是作为一个奇点存在。照片是不可信的档案，是照相机与注意力的结合。它们并非关于世界与真实经历的作品，而是关于记录过程一这种记录机制本身就充满错误，当然也无法获得真相。只有当这种捕捉与存储过程通过技术被具象化时，我们才能感知它们的谬误、它们与真实之间的差异。这或许就是我们从机器的幻梦中学到的东西：它们并非改写了历史，而是历史本来就无法被可靠记述；同样的，未来也是如此。人工智能以向量合成绘制的照片并不构成某种记录，而是一种持续进行的图像重塑，是过去与未来不断变化的各种可能性的集合。比起实质论断，这团永远带有偶然与模糊性质的“概率云”是关于现实的更好模型，也正是科技所揭示的内容。

机器阐明了我们的无意识，谷歌机器学习的另一项怪异成果——名为“深梦”(DeepDream)的程序——或许是其最佳阐释。“深梦”的设计初衷是用来更好地说明神秘的神经网络内部究竟是如何工作的。为了学习识别物体，神经网络需要消化大量经过标注的图片：树木、汽车、动物、房屋，等等。每当看到一张新图像时，系统就会通过神经网络对图片进行滤光、拉伸、撕扯、压缩，从而将它归类：这是一棵树、一辆汽车、一只动物、一栋用数学创造新的面孔。图片来自雷福德、梅茨、真塔拉合著的《用深层卷积生成式对抗网络进行无主导的表征学习》(Radford,MetzandChintala,UnsupervisedRepresentation Learning with Deep Convolutional Generative AdversarialNetworks)

第六章 认知

153

154

163

房屋。但“深梦”却逆转了这一过程，它将一张图片输入神经网络后端，激活这些被训练来识别物体的神经元，但却并不提问图中有什么，而是问神经网络想从中看到什么。这种过程就像在云彩中看出人脸：视觉中枢因为渴求被刺激，便从噪音中拼装出有意义的图形。

“深梦”的工程师亚历山大·莫尔德温采夫(AlexanderMordvintsev）是在凌晨两点创造了它的第一代程序，当时他正从噩梦中惊醒。31他输入系统的第一张图是一只坐在树桩上的猫，而输出的却是一只噩梦般的怪物：一个猫和狗的混合体，浑身有好几对眼睛，脚上是湿漉漉的鼻子。当谷歌在2012年第一次给未经训练的分类网络展示1000万张来自YouTube的随机图片时，它在没有提示的情况下第一个学会的就是猫的面孔：互联网的精神圣物。32因此莫尔德温采夫的神经网络梦见的是它所知道的东西，更多的猫和狗。之后几次迭代中产生了博斯克式(Boschian)地狱场景中的无尽建筑，包括无限分形的拱门、佛塔、桥梁、塔楼，具体是什么要看哪些神经元得到了激活。但在“深梦”的创作中一直反复出现的是眼睛的图像—狗的眼睛、猫的眼睛、人的眼睛，网络本身无处不在的、监视着的眼睛。这些眼睛漂浮在“深梦”的天空中，让人想起反乌托邦宣传中的全面监视之眼：我们的记忆和行为构成了谷歌的潜意识，在追求公司利益或个人知识的驱动下被不断分析、追踪着。“深梦”天生就是台有妄想症的机器，因为它来自一个妄想的世界。

第六章认知

与此同时，当机器不再被迫将自己的梦境视觉化以便我们理解时，它们便会在自己的想象空间中渐行渐远，去到我们无法进

155

165

入的地方。瓦尔特·本雅明在《译者的任务》中表达的最大愿望，便是语言间的转换可以运用一种“纯语言”——世界上所有语言的混合体。这种聚合语言应当是翻译者工作的媒介，因为它所揭示的并不是具体意义，而是原文的思维模式。在谷歌翻译的神经网络于2016年启用后，研究者们意识到这一系统不仅能在语言间两两翻译，还能跨语言翻译；也就是说，它能直接翻译两种从未被直接比较过的语言。举个例子，一个神经网络用日语一英语、英语一韩语的对照例句进行训练后，就可以不经由英语，直接进行日语—韩语间的翻译。33这被称为“零样本学习”（zero-shot），并意味着“中介语”确实存在：一种由语言间共有概念组成的内部元语言。这从任何方面看都是本雅明所说的“纯语言”，一种去除了意义的如拱廊一般的元语言。通过将神经网络架构及其向量以色块和线条的形式进行视觉呈现，就可以看到以多种语言呈现的句子聚在一处。这种结果是神经网络通过演化获得的语义表达，而不是刻意设计出来的。但这已经是我们所能得到的最接近于实际过程的推测，我们目前仍然只能通过窗户窥视无限乐土，而永远无法进入。

为了调和这个问题，2016年“谷歌大脑”的两位研究员决定看看神经网络是否能继续保守秘密。34他们的想法源自对抗的概念：一种越来越常用的神经网络设计组件，而且毫无疑问正对弗里德里希·哈耶克的胃口。阿尔法围棋和FaceBook的卧室生成器都是以对抗方式进行训练，也就是说它们不仅只有一个生成新棋步或新卧室的组件，而是有两个互相竞争的组件，不断尝试着战胜或看穿对手，从而推动自己进一步提升。这两位研究者采用

新黑暗时代科技与未来的终结

156

166

图

对抗的思路创建了三个神经网络，按密码学实验的惯例命名为爱丽丝（Alice）、鲍勃（Bob）和伊娃（Eve）。它们的任务是学会如何加密信息。爱丽丝和鲍勃都知道一个数字——密码学术语中所说的“钥匙”———而伊娃却不知道。爱丽丝要对一串字符进行加密操作，然后发给鲍勃和伊娃。如果鲍勃能解密信息，爱丽丝获得加分；而如果伊娃解密了信息，爱丽丝就要被扣分。在经过数千次迭代之后，爱丽丝和鲍勃学会了在伊娃无法破译密码的情况下通讯：它们发明了一种私人加密形式，就和现在用的私人电子邮件一样。但关键的是，就如我们看过的其他神经网络一样，我们无法得知这种加密机制，伊娃看不到的我们也同样看不到。机器在学习保守它们的秘密。

艾萨克·阿西莫夫（IsaacAsimov)在1940年提出的机器人三大定律（Three Laws of Robotics）规定：

1.机器人不得伤害人类，或因不作为而使人类受到伤害。

2.机器人必须服从人类的指令，除非这指令与第一条定 律相冲突。

3.在不违反第一条和第二条定律的情况下，机器人必须保护自己。35

我们也许可以加上第四条：机器人—或者其他形式的智能机器—必须能向人类解释自己。这一定律得插到其他定律前面去，因为它并没有形成对其他条款的约束，而是一条基本规范。但这条定律已经（在我们的设计下不可避免地）被打破了，因此“安全出自警惕的双眼”，伦敦交通局，2002其他定律也迟早会被打破。我们得面对这个事实，不用等到未来，我们现在就已经理解不了自己所创造的东西。这种不透明性会永远不可避免地指向暴力。

157

新黑暗时代|科技与未来的终结

168

在我们将卡斯帕罗夫对战“深蓝”与李世石对战阿尔法围棋的故事联系在一起时，还有另一个类似的故事没有讲。卡斯帕罗夫在结束棋局时，确实深受挫折，也并不相信机器的能力，但他很快将受挫经历转化成动力，寻找将国际象棋从机器的统治下拯救出来的方法。这种尝试有过多次，但极少成功。大卫·利维(DavidLevy）是一位苏格兰国际象棋冠军，曾在20世纪70年代与80年代与机器下过多场表演赛，他发明了一种“抗计算机”战术，即严格遵守他称之为“无所作为、不留破绽”的下法。他下得十分保守，让他的计算机对手无法做出长期规划，直到他的优势逐渐确立，并立于不败之地。与此类似，以色列大师级棋手鲍里斯·奥尔特曼（BorisAlterman）在20世纪90年代及本世纪初也曾发明一种与机器对弈的战略，被称为“奥尔特曼墙”：他知道盘中棋子越多，计算机需要计算的棋步的可能性也越多，于是便躲在一排卒子后面等待时机。36

除了使战术发生变化，机器还可能改变游戏本身。印度斗兽棋(Arimaa）是由奥马尔·赛义德(Omar Syed)——本身就是一位在人工智能方向上受过训练的电脑工程师—于2002年发明的一种国际象棋变体，专门设计成让机器难以掌握，而人类学习起来简单又有趣的方式。这个名字是赛义德的儿子取的，这个4岁的孩子也为游戏规则的可理解性提供了标准。在印度斗兽棋中，玩家可以把棋子摆成任何阵型，首先把一枚最弱的棋子——兵，印度斗兽棋中改叫兔子—送到棋盘对面最远处的人获胜。玩家还可以用较强的棋子来将较弱棋子推入或拉入陷阱，将它们清出棋盘，并为兔子清理障碍。多种不同的开局设置、通过棋子来移动其他棋子的能力、一个回合最多可以走4步的设定，都让组合数量爆炸式增长：可能性的快速增长很快就会让计算机程序无力应对——指数极限的“奥尔特曼墙”？想得美！第一次电脑印度斗兽棋比赛在2004年举办，获胜的程序将有资格向顶尖的人类选手挑战并赢取奖金。在最初几年，人类都能轻松击败他们的计算机对手，甚至还扩大了领先优势，因为他们在这种新游戏上的技术提升速度要比挑战他们的程序更快。但到了2015年，有一台机器获得了压倒性的胜利，从此这一结果就再也无法逆转。

158

新黑暗时代科技与未来的终结

170

在面对智能系统的力量和不可捉摸性时，人类很容易就会迟疑、脱轨、丢城失地。在利维和奥尔特曼建起高墙的地方，印度斗兽棋回到原地，想要在机器统治的领地之外为人类打造一方天地。但卡斯帕罗夫没有用这种方法，他没有将机器拒之门外，而是在被“深蓝”打败的次年就携一种新的国际象棋归来，他将其称为“高级国际象棋”(AdvancedChess)。

高级国际象棋也被称为“电子人”（cyborg）或“半人马”(centaur）国际象棋，前者展示的是人与机器融合的图景，后者则是人与动物—如果不将它看成其他某种怪物。希腊神话中的半人马也许是源于中亚草原的骑兵，而当时地中海人还不知骑马为何事物（据说阿兹特克人对西班牙骑兵也有类似的假想）。罗伯特·格雷夫斯（Robert Graves）认为半人马是更为早期的神话形象：前希腊时期的文明遗迹。半人马还是云之女神涅斐勒的孙子。因而半人马战略可能既是当代在面对逆境之时的必需，也是对过去较为顺遂时期的某种复兴。

第六章 认知

159

171

在高级国际象棋中，一名人类棋手与一个国际象棋计算机程序组成一队，对抗另一组人机搭档。这种组合的结果是革命性的，开辟了这种游戏中前所未见的新领域和新战术。其效果之一是避免了所有重大失误：人类可以将自己的下一步设想分析透彻，以至于毫无失误，这就能达成完美的战术实施以及对战略计划的更严格部署。

但是也许最不寻常的结果正来自于高级国际象棋：由相匹配的人机组合对抗一台单打独斗的机器时就会发生这种情况。自“深蓝”之后，人们研发了更多可以轻松高效打败人类的计算机程序：内存量的增加与处理能力的提升让超级计算机不再是完成这项任务所必需的。但即使是当代最强大的计算机程序，也会被一位配备了个人计算机的熟练棋手打败—哪怕这台计算机完全不如对方强大。人机之间的合作似乎是比最强大的计算机更为有力的战略。

这就是用于国际象棋中的“验光师算法”(OptometristAlgorithm），即利用人与机器各自的技能，而不是让两者互相对抗。同时，合作还减少了计算机的不可理解性所带来的麻烦：通过合作而不是事后分析，我们或许能对复杂机器的决策机制获得更深的理解。承认非人类智能的真实存在对于我们如何采取行动具有深层意义，也需要我们对自身的行为、机会与局限有着清晰思考。诚然机器智能正在许多领域中飞快超越人类的表现，但这并不是看待机器智能发展问题的唯一方式，而且这一方式在很多地方会带来灾难性的破坏。除了小心谨慎、深思熟虑地进行合作，其他策略都相当于是弃权：一种无法维系的退缩。我们不可能拒绝科技，否则最终就得彻底与世隔绝；我们都已经深陷其中。如今的合作准则不必只局限在人与机器之间，与其他人类以外的实体——无论是否具有生命——都应如此；这正在成为另一种管理模式，强调行为的普世正义，不是在无法预知、无法测算的未来，就在此时此地。

160

新黑暗时代|科技与未来的终结

172