智人之上：从石器时代到AI时代的信息网络简史

当然，这样的模式识别功能也很有可能对社会大大有利。比如，算法或许可以找出贪腐的政府官员、白领罪犯和逃税的公司，还能协助人类卫生官员找出对饮用水的威胁，协助医生发现疾病与迅速发展的疫情，协助警察与社工识别受虐的配偶与儿童。我接下来很少会谈到算法对官僚体系可能带来的助益，毕竟那些领导人工智能革命的企业家已经让大众听到太多美好的预测了。我将把重点放在算法模式识别可能带来的危害上，目标正是要平衡一下那些乌托邦式的愿景。希望我们既能好好发挥算法可能带来的助益，同时也能控制住算法可能造成的危害。

但要做到这一点，我们就得先看清楚新的数字官僚与过去的人类官僚有何不同。非生物的官僚能够一天₂₄小时^“在线^”，随时随地监控人民、与人民互动。这意味着官僚制度与监控已经不再是我们在特定时间和地点才会遇到的事。不论是医疗保健系统、治安维护还是企业对民众的操控，都正在成为生活中无所不在、永远存在的一部分，而不是只存在于我们与特定机构互动的时刻（比如诊所、警察局、商场）。这些官僚制度会越来越常伴我们左右，不断观察和分析我们的一举一动。就像鱼生活在水里，人类也开始活在数字官僚制度之中，不断吸进呼出各种资料数据。我们的所有活动都会留下一道数据痕迹，这些数据会被数字官僚收集分析以进行模式识别。

皮下监控

不论好坏，数字官僚不但能够监控我们在这个世界上的所作所为，还能观察我们体内所发生的一切。以追踪眼球运动这件事情为例。在₂₁世纪₂₀年代初，许多监控摄像头以及笔记本电脑与智能手机上的摄像头，已经开始固定收集分析人眼运动的数据，包括瞳孔与虹膜在仅仅几毫秒内的微小变化。人类或许没有能力注意到这样的数据，但计算机却能根据瞳孔与虹膜的形状、反射的光线，计算出我们注视的方向。运用类似的方法就能知道某个人的目光究竟是盯着某个稳定的目标，还是跟随着某个移动的目标，抑或只是轻松随意地四处张望。

举例来说，根据眼球运动的模式，计算机能够判断一个人现在是专心还是分心，知道某个人是比较在意细节还是比较看重全局。光是从眼睛，计算机就能推断出人类许多个性特征（比如对新体验的态度有多开放），也能判断一个人从阅读到做外科手术等各个领域的专业水准。如果是该领域的专家，并拥有完善的策略，眼动模式会显得专注而有条理，而新手的眼动模式则会显得漫无目的。眼动模式也能显示我们对眼前对象与情境感兴趣的程度，并判断出这种兴趣是正面、中性还是负面的，由此就能推论我们从政治到性等各个领域的偏好。此外，它也能用来了解我们的身体状况，以及是否使用各种物质。酒精与使用药物（即使用量还不足以让人失去控制）也会对眼睛与注视的状况造成可测量的影响，比如瞳孔大小的改变，注视移动物体的能力变差。这一切信息自然能让数字官僚用来改善民生，比如能够尽早检测出可能有药物滥用与精神问题的患者。只不过以这些功能为基础，显然也很可能催生出史上最具侵入性的极权主义政权。

理论上，未来独裁者还能让他们的计算机网络走得更深，而不局限于观察眼睛。如果这个计算机网络想了解民众的政治观点、人格特质与性取向，只要监控民众的身体与大脑内部的反应就能做到。有些政府与企业正在研发所需的生物特征识别技术，比如马斯克的新创公司Neuralink所做的实验，就是将电探针植入活体大鼠、羊、猪和猴子的大脑。每支探针都有高达₃₀₇₂个电极，除了能够识别电子信号，理论上也能将信号传输到大脑。₂₀₂₃年，Neuralink获得美国当局批准开始进行人体实验。₂₀₂₄年₁月，据报道，第一个大脑芯片已植入人体。

马斯克毫不讳言自 己对这项技术有着远大的期许，认为这不但能处理像四肢瘫痪这样的疾病，还能提升人类的身体能力，协助人类与人工智能竞争。但应该不难想见，目前不论是Neuralink的探针还是其他类似的生物特征识别设备，都有诸多技术问题，难以真正发挥其功能。想从体外准确地监控大脑、心脏或其他身体活动的难度很高，而要把电极与其他监控设备植入体内又有侵入性，不但危险、昂贵，也算不上高效。比如，人体的免疫系统就会攻击被植入的电极。

更重要的是，人类目前仍然缺乏必要的生物学知识，无法只根据大脑活动这些皮下数据就做出各种推断（例如推论政治观点）。科学家不但距离解开人脑奥秘还差得很远，甚至就连小鼠大脑的奥秘都还没能掌握。目前，光是绘制小鼠大脑里的每个神经元、树突与突触，就已经超出了人类运算能力所能处理的范围，更别提要了解其中的动态关系了。所以，虽然现在从人脑内部收集数据变得越来越可行，但利用这些数据来破解人体的奥秘却绝没有那么简单。

₂₁世纪₂₀年代初期有一种流行的阴谋论，认为有一群像马斯克这样的亿万富豪领导着邪恶的组织，正在将计算机芯片植入民众的大脑，准备监视并控制全人类。然而，这套理论担心的对象错了。我们当然该担心即将崛起的新的极权制度，但现在担心有计算机芯片要植入人脑还为时过早。真正该担心的，是大家用来阅读这些阴谋论的智能手机。假设有人想知道你的政治观点，你的智能手机会知道你看的是哪些新闻频道，也会记录你每天平均看₄₀分钟福克斯新闻台，只看₄₀秒的美国有线电视新闻网。与此同时，假设你植入了Neuralink的计算机芯片，它会全天监控你的心率与大脑活动，知道你的最大心率是每分钟₁₂₀次，也知道你的杏仁核活跃程度比人类平均水平高出大约_5%。这样一来，哪些数据比较能猜出你的政治立场？是那些智能手机的数据还是植入身体的计算机芯片提供的数据？目前，如果真的要作为监控的工具，智能手机显然是比生物特征识别传感器更好的选择。

然而，随着生物学知识的增加（特别是靠着计算机分析了千万亿字节的数据之后），特别是如果再连接上其他监控工具，皮下监控或许最终能充分发挥作用。到那时候，假设生物特征识别传感器能够记录几百万人在智能手机上观看特定新闻时的心率与大脑活动，那么计算机网络能掌握的绝对不再只是我们大致的政治立场，而是能够准确掌握是什么让每个人感到愤怒、恐惧或欢愉。然后，计算机网络将能预测并操纵我们的感受，让我们心甘情愿地接受它想推销的东西^——可能是某种产品，可能是某位政客，也可能是某场战争。

隐私的末日

在过去那个由人类来监控人类的世界，基本上享有隐私是件天经地义的事。但如果到了一个由计算机来监控人类的世界，人类就有可能在史上首次完全失去隐私。关于侵入式监控，最极端也最广为人知的案例可分成两类：一类是在特殊紧急的情况下；另一类则是处于非正常秩序的地点，比如巴勒斯坦被占领区、印控克什米尔地区、克里米亚、美墨边境、阿富汗与巴基斯坦边境。在这些特殊的时期或地点，新的监控技术结合了严苛的法规与大批警力或军队，无情地持续监控着人民的行为、举止甚至感受。但我们必须知道，人工智能监控系统正迈向大规模应用，成为世界各地日常生活的一部分。^“后隐私时代^”正逐渐站稳脚跟，不仅是在从白俄罗斯到津巴布韦这样的地方，就连伦敦和纽约这种民主政体的大都会也同样如此。

不论是好是坏，为了打击犯罪、打压异己或对抗内部真实或想象中的威胁，政府都会在全国布满互联或离线的监控网络，安装间谍软件、监控摄像头、人脸与语音辨识软件，以及庞大的可搜寻数据库。只要政府想要，就能让监控网络无孔不入，从市场到宗教场所，从学校到私人住宅。（虽然不是每个政府都想或都能在民众的家里安装摄像头，但就算是在我们的客厅、卧室和浴室，算法也会通过计算机和智能手机固定观察着我们。）

政府监控网络还会在全民知情或不知情的状况下，固定收集全民的各种生物特征数据。比如，公民如果要申请护照，有超过₁₄₀个国家要求提供指纹、脸部扫描或虹膜扫描。等到我们拿着护照进入某国，该国也常常要求我们提供指纹、脸部扫描或虹膜扫描。市民或游客走在德里、北京、首尔或伦敦的大街上，一举一动都很可能会被记录下来。在这些城市（以及世界上许多其他城市），每平方千米平均有₁₀₀多个监控摄像头。₂₀₂₃年，全球在用的监控摄像头超过₁₀亿个，平均大约每₈个人就会有一个摄像头。

人的任何身体活动都会留下一连串数据的痕迹。每次购物都会被记录在某个数据库里。不论是给朋友发信息、分享照片、支付账单、阅读新闻、预约行程或叫出租车，这些线上活动都会留下记录。这样的海量数据就能用人工智能系统加以分析，识别里面的非法活动、可疑模式、失踪人口、疾病携带者或政治异见人士。

如同各种强大的科技，这些系统可以用来行善，也能用来作恶。在₂₀₂₁年₁月₆日美国国会山骚乱事件之后，美国联邦调查局与其他美国执法机构就用了最先进的监控系统来追踪逮捕暴乱分子。根据《华盛顿邮报》调查报道，这些机构除了参考国会大厦里的监控摄像头拍摄的视频，还参考了社交媒体上发的帖子、全美各地的车牌辨识系统、手机信号塔位置收集记录，以及各种既有的数据库。

一名俄亥俄州男子在脸书上说自 己那天到华盛顿是为了^“见证历史^”。法院向脸书发出传票，于是脸书向联邦调查局提供了该名男子的脸书帖子，以及他的信用卡信息与电话号码。这有助于联邦调查局把该名男子的驾照照片与国会大厦监控视频做比对。此外，谷歌也接到了搜查令，于是提供了该男子智能手机在₁月₆日当天的准确地理位置，使得联邦调查局特工能够绘制出他是怎么一步一步先到了参议院的会议厅，又进了时任众议院议长佩洛西的办公室的。

联邦调查局也利用车牌辨识系统，清楚掌握着某位纽约男子是怎样在₁月₆日₆：₀₆：₀₈通过亨利·哈德孙大桥，然后去了国会大厦，最后又在当天晚上₂₃：₅₉：₂₂通过乔治·华盛顿大桥回家的。在₉₅号州际公路监控摄像头拍到的影像中，可以看到该男子前座挡风玻璃下方有一顶超大的帽子，上面写着^“让美国再次伟大^”，和他在脸书自拍照戴的帽子恰好一样。他后来还在国会大厦里上传了几段视频到Snapchat（阅后即焚），更进一步坐实了自 己的犯罪事实。

另一名暴乱分子在₁月₆日当天则是戴了口罩，没开直播，甚至用的还是他妈妈名下的手机，希望躲过追查，但只是白忙活一场。从₂₀₂₁年₁月₆日的视频片段中，联邦调查局的算法成功比对到该男子在₂₀₁₇年申请护照时使用的照片。另外，该男子在₁月₆日穿了一件独特的哥伦布骑士团夹克，而联邦调查局算法发现他在另一个YouTube视频中，曾在另一个场合也穿过一样的夹克。那部注册在他妈妈名下的手机，当天的地理定位曾出现在国会大厦里，车牌识别系统也记录到他的车在₁月₆日早上曾出现在国会大厦附近。

人脸识别算法与能用人工智能搜寻的数据库，现在已经成为世界各地警方 日常使用的标准工具，而且它们不是只用来处理国家紧急事件或安全危机的，还被用于执行 日常警务工作。₂₀₀₉年，一个犯罪集团拐走了₃岁的桂豪，当时他正在四川省父母开的酒铺外面玩耍。这个男孩后来被卖到大约₁₅₀₀千米外的广东省某个家庭。时间来到₂₀₁₄年，虽然警方成功逮捕了拐卖该儿童的犯罪集团的头目，但没办法确认桂豪和其他受害儿童被卖到了哪里。一名警方调查人员提到：^“小孩长得快，几年间容貌变化巨大，即使亲生父母也可能认不出来。 25

但在₂₀₁₉年，一套人脸识别算法成功找到了时年₁₃岁的桂豪，也让这一家得以团圆。为了找到桂豪，这套人脸识别算法用了他还在学步时期的一张老照片，模拟他长到₁₃岁时可能的外貌（算法已经考虑到长大可能带来的巨大影响，以及发色发型的改变），再将模拟的结果与实际监控视频做比对。

₂₀₂₃年，甚至还发生了几则更惊人的寻人案例。₂₀₀₁年，年仅₃岁的雷岳川被拐走；₁₉₉₈年，陈昊同样在年仅₃岁时被拐卖。这两个孩子的父母从未放弃找回孩子的希望，₂₀多年间不断往返中国各地，刊登寻人启事，悬赏相关信息。₂₀₂₃年，人脸识别算法终于协助他们寻得这两位失踪男童，现在两个孩子都已经是二十几岁的成年人了。目前除了中国，印度也开始以这样的技术来帮助寻找该国每年成千上万的失踪儿童。

与此同时，在丹麦，布隆德比足球俱乐部于₂₀₁₉年₇月在主场启用人脸识别技术，用来辨识足球流氓，并禁止其入场。在每场可能多达₃万名球迷涌入体育场的过程中，观众必须摘下口罩、帽子与眼镜，让计算机扫描他们的面部，从而判断他们是否被列入禁止入场的闹事者黑名单。重要的一点在于，该程序经过审查核准，符合严格的欧盟《通用数据保护条例》（GDPR）。丹麦数据保护局解释说，相较于人工检查，这项科技能够^“更有效地执行黑名单，并且缓解球场入口处的排队压力，降低球迷因为排队不耐烦而引发大规模骚乱的风险^”。

运用这种技术虽然理论上值得称赞，但显然可能引发在隐私与政府越权方面的忧虑。这些技术虽然可以用来识别暴乱分子、营救失踪儿童和禁止足球流氓，但同样的技术要是落入极权者手中，也能用来迫害和平示威者，或是严格要求所有人遵守同一套僵化的规定。最终，人工智能监控技术就可能创建出全面监控的政体，一天₂₄小时监控公民，并促进新型且无所不在的自动化极权镇压。伊朗的^“头巾法^”就是个典型的例子。

₁₉₇₉年，伊朗伊斯兰共和国建立后，实行政教合一制度，新上任的政府强制女性必须戴头巾。但伊朗的道德警察发现执行这条法规实在不易，毕竟他们不可能在每个街角都配置一名警力，而且公开对抗不戴头巾的女性也常常引发人民的抵制与不满。₂₀₂₂年，伊朗把执行头巾法的重大责任交给全国性的人脸识别算法系统，持续监控物理空间与网上环境。伊朗高层解释说，这套系统会找出各种不适当、不寻常的行为，其中就包含不遵守头巾法的行为。伊朗伊斯兰议会的司法和法律委员会主席穆萨·加赞法拉巴迪在一次采访中表示：^“使用人脸记录摄像头能够系统地执行这项任务，减少警方出面，也就不会再有警民冲突了。

不久之后，₂₂岁的玛莎·阿米尼因戴头巾的方式不符合标准，被伊朗道德警察逮捕，死于拘留期间。这起案件引发一波抗议浪潮，几十万名女性摘下头巾，有的还公开焚烧头巾，再围着火堆起舞。为了镇压这起抗议运动，伊朗当局再次使用人工智能监控系统，依靠的就是人脸识别软件、地理定位、网络流量分析，以及各种既有的数据库。

₂₀₂₃年₄月₈日，伊朗警政首长宣布，从₂₀₂₃年₄月₁₅日开始，将密集加大使用人脸识别技术的力度，特别是如果算法发现有女性乘车或开车时没戴头巾，会自动发出短信警告。若这些女性被再次发现不戴头巾，车辆将被勒令停驶一段时间，如不遵守，车辆还将被没收。

两个月后，伊朗警方发言人表示，自动监控系统已经发出近百万条短信，警告那些被逮到在私家车里不戴头巾的女性。显然，这套系统能够自动判断它看到的是一位未戴头巾的女性而非男性，能够识别她的身份，还能找出她的手机号码。这套系统还发出了₁₃₃₁₇₄条短信要求车辆停驶，没收了₂₀₀₀辆车，并将₄₀₀₀多名^“惯犯^”移送司法部门。

一位叫马里亚姆的₅₂岁女性曾分享过她被这套系统监控的经历：^“我第一次收到开车不戴头巾的警告，正巧开过一个十字路口，摄像头拍到了照片后，我就立刻收到了警告短信。第二次是我买完东西，提着大包小包上车，头巾掉了，我就收到了短信，说因为我违反了强制戴头巾的法律，车子要被^‘依规扣押^’₁₅天。我不知道这是什么意思，于是到处打听，才从亲戚那里知道这意味着我的车在接下来₁₅天内不能开。^”从马里亚姆的表述中可以知道，人工智能在短短几秒内就会送出警告短信，过程中不可能有时间让哪个人类来审查与授权。

相关惩罚还远远不止车辆的停驶或没收。₂₀₂₃年₇月₂₆日的一份报告指出，由于这种大规模的监控，无数女性被大学停学或开除，不得参加期末考试，也无法使用银行服务与乘坐公共交通工具。企业如果不要求员工或顾客遵守头巾法，也会受到惩处。比如，在德黑兰东部的^“乐土^”（Land of Happiness）游乐园，一位女员工被拍到没戴头巾，照片被传上了社交媒体，结果该游乐园直接被伊朗当局勒令停业。据报道，伊朗当局共关闭了几百个旅游景点、饭店、药店与购物中心，只是因为它们没有强制顾客戴头巾。

₂₀₂₃年₉月，伊朗伊斯兰议会又通过一项新的更严格的头巾法。根据这项新法，女性如果不戴头巾，将被处以高额罚款，以及最高₁₀年的有期徒刑。其他处罚还包括没收汽车与通信设备、禁止开车、扣除工资与就业福利、解雇、禁止使用银行服务等。企业主如果不要求员工或顾客遵守头巾法，将面临最高达三个月企业利润的罚款，并可能在长达两年的时间里被禁止出境，或不得参加各种公开或线上活动。这项新法适用的对象除了女性，也包括穿着^“露出胸部以下或脚踝以上身体部位的暴露服装^”的男性。最后，该法要求伊朗警方必须创建并加强人工智能系统，运用固定或移动式摄像头等工具，查明违法行为人。

形形色色的监控

讲到监控，我们一般想到的就是各种国家机器，但要了解₂₁世纪的监控，就不能忘记监控还可能有许多不同的形式。比如，爱吃醋的配偶也算其中一种，因为他（她）总想知道自 己的伴侣每分每秒都在哪里，只要有一点点与日常不同，就需要让对方好好解释一番。现在有了智能手机，再搭配一些不用花多少钱的软件，他们轻轻松松就能建立自 己的婚姻独裁：监控每一段对话、每一个动作，记录通话内容，追踪社交媒体发文与网页搜索记录，甚至能够启动配偶的手机摄像头与麦克风，使其成为间谍装置。总部位于美国的终结家庭暴力全国网络发现，超过半数的家暴者都会使用这样的追踪软件技术。这样一来，就算身在纽约，其配偶也仿佛身处极权国家，总是受到监控与限制。

目前也有越来越多的员工（从办公室职员到卡车司机）持续受到雇主的监控。主管能够精确掌握员工在什么时间位于什么地点，上厕所花了多长时间，上班的时候是不是在偷看私人电子邮件，以及完成每项任务用了多长时间。企业也会以同样的方式监控客户，想知道他们的好恶，预测他们未来的行为，以及评估风险与契机。比如，现在的车辆会监控驾驶员的行为，并把数据分享给保险公司的算法，于是保险公司把^“坏司机^”的保费提高，把^“好司机^”的保费降低。美国学者肖莎娜·朱伯夫就把这种不断扩大的商业监控体系称为^“监视资本主义^”。

除了上述自上而下的监控体制，还有一种点对点监控体系，它是由个人不断互相监视。国际旅游评论网站猫途鹰就等于经营着一个全球监控系统，该系统监控着各地的酒店、度假村、餐厅与游客。₂₀₁₉年，使用该网站的旅客人次达到_4.63亿，浏览了网站上的_8.59亿条评论，以及₈₆亿个住宿、餐厅与旅游景点。该网站判断某家餐厅是否值得光顾，用的不是什么复杂的人工智能算法，而是让顾客自 己说。只要去过某家餐厅用餐，顾客就能给那家餐厅₁\~₅分的评分，也能加上照片与文字评论。猫途鹰的算法只是把数据汇总起来，计算某餐厅的平均得分，再与其他同类餐厅进行比较，最后让所有人都能看到结果。

这套算法同时也会对顾客进行评分。只要发表评论或旅游文章，用户就能得到₁₀₀点积分；上传照片或视频，可获得₃₀点积分；在论坛发帖，可获得₂₀点积分；为商家打分，可获得₅点积分；推荐他人的评论，可获得₁点积分。接着，所有顾客被分为从第₁级（₃₀₀点）到第₆级（₁₀₀₀₀点）的等级，并有对应的奖励。使用者如果违反系统规则（比如发表种族歧视的评论，或者通过撰写不合理的差评来勒索餐厅），就可能受到惩罚，甚至直接被踢出系统。这就是所谓的点对点监控，是由每个人不断地给其他人评级打分。猫途鹰并不需要自 己投资购买摄像头、间谍软件或是研发超复杂的生物特征识别算法。网站上几乎所有的内容与工作都是由数百万顾客自行提交与完成的，而猫途鹰算法唯一要做的就是汇总这些人类的评分再公布出来。