--- schema_version: "library-reader-v1" source_type: "original_book" title: "我们的未来：数字社会乌托邦" author: null edition: null publisher: null year: null isbn: null library_document_id: "e24aa553-3cc7-4b82-96ef-9d61fdb4ce1e" source_sha256: "39448af4ef73a0332a2d959f125986fd3c9ebbd586615ef6e8cf3786acc85c0d" pdf_physical_page_count: 189 pdf_physical_page_index_base: 0 range_start: 40 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/e24aa553-3cc7-4b82-96ef-9d61fdb4ce1e?start=40&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/e24aa553-3cc7-4b82-96ef-9d61fdb4ce1e.md?start=40&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/e24aa553-3cc7-4b82-96ef-9d61fdb4ce1e.md?start=30&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/e24aa553-3cc7-4b82-96ef-9d61fdb4ce1e.md?start=50&limit=10" --- # 我们的未来：数字社会乌托邦 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=40 | PRINTED_PAGE=NOT_DETECTED 帕洛阿尔托资本统治的世界 ——反乌托邦 2040年，德国。2018年出生的孩子们此时已经成长为年轻人，他们不再莽撞、懵懂、涉世不深。他们生活在一个由数据组成的矩阵里，这些数据告诉他们，对他们来说什么是好的，什么是不好的。早上醒来时，人们的面前会出现一幅难以辨别真假的全息图。图上有个一个帅气的男人或者迷人的女人，他/她会告诉你是如何入睡的，你做了什么梦，以及为什么做梦。他/她知道你的血糖、你的心搏和血液循环的指标数据，也知道你的激素状态。他/她给你的日程安排提出建议，并为你寻找今天需要的东西。谷歌和脸书这类公司把这一代人从“自由的独裁”中解放了出来。 在这个万无一失的生活里，长寿百岁的几率很大。人们所有的细胞都可以在实验室器皿里克隆出来，3D打印机根据需求给人打印一个新的肾脏、一个新的肝脏或者一个新的“属于自己”的心脏。燕麦片变成了器官，而这一次真的是自己的。行走在城市里，大街上所有的一切都互联结网，传感器和摄像镜头监控人们的每一个行动。犯罪已不再可能，因为异常行为会立刻暴露。街灯会根据需求自动发光，商店里的商品价格视情而变，这取决于谁走进了商店，他当时的购物心情怎样。无人驾驶汽车根本不再需要调度——它能够辨识出人类，也知道人们什么时候需要它。人们周围大部分的商店仅仅是个空壳摆设而已，因为所有的商品都在互联网上供应，有无人机送货。人的生活伴侣也是通过搜索程序找到的，或者程序让人通过一个“偶然的机会”相遇相识，以满足人们古老的浪漫的心理需求。 钱还是有的，甚至比以往任何时候都多，但不再是硬币和纸币了。在已经成为现实版的《楚门世界》的幕后，堆积了海量的钱。很多人从国家发放的无条件基本收入中获得的钱，又巧妙地落入了还在工作的人们手里。两极分化的社会把舒适阵营中的高薪阶层跟众多社会底层分开。一方的子女从私立学校到精英大学，顺利进入大数据公司任精神高层。另一方则从事有机器人做帮手的低收入的幼儿园保育员、理发师和养老院护理员的工作，他们艰难度日，还常常失去工作。他们的子女通往精英的道路从一开始就被阻断，上公立学校的孩子们永远滞留在社会的底层。 ## PDF_PHYSICAL_PAGE_INDEX=41 | PRINTED_PAGE=NOT_DETECTED 最大的赢家是由全球投资人、企业家、投机商和极客们组成的商业联盟。对商家来说，数据交易即是一笔大单买卖，比单纯的金融投机数额还要巨大，还要稳妥。商家参与其中，因为在那里他们看到了金钱。伦理问题他们还从未考虑过，至少还没有从职业的角度考虑过。他们不必亲自打理业务，效率思维推动硅谷向前发展，远远比马克·扎克伯格和拉里·佩奇幻想的还要超前。商家的合作伙伴和供应商首先需是男性，这些男性在14岁的时候便掌握搜索算法，用算法有力地征服女人。在投资商的帮助下，第二机器时代的年轻卫士们实现了自己的梦想。他们不惧怕国家监控，因为他们还没有发现任何需要隐藏的东西。即使谷歌等公司哄骗民众在矩阵里昏昏欲睡，年轻的卫士们也不损失什么。如果一个人没有社交愿望，只有科技幻想，那么无论身处机场、火车或者饭店，他只会沉浸在自己的手机世界里，外部世界对这个人没有任何影响。这种人一方面梦想数字医学能使自己长生不老，另一方面又消耗很多能量和资源，以至于数字医学最终走向消灭人类之路，在他们看来这两方面并不矛盾。这些没有社交欲望的人步入老年时，期望太空机器人R2-D2护理自己，产生这种期许不会让他们感到恐惧，反而会让他们感到高兴，他们终于回到了自己熟悉的家！年轻的卫士们对别人从来就没有同情心，他们完成了规模巨大的重建工作，创造了2040年的世界：喜欢枯燥无味、缺乏冒险精神的人取得了胜利，虚拟生活战胜了现实生活！ 硅谷崛起原因是多方面的，然而最主要归因于它克服了生活的不可控。应用程序和算法使人们越来越多地规避了生活的偶然、命运的不确定和生命的冒险，并从中挖掘出巨大的商机。GAFA（G代表谷歌， ## PDF_PHYSICAL_PAGE_INDEX=42 | PRINTED_PAGE=NOT_DETECTED A代表苹果，F代表脸书，A代表亚马逊）的市场资本在2018年时还只是数万亿美元计算，到了2040年将达50万亿美元。在2010年代他们把商业巨头，例如埃克森美孚石油、中国石化、通用电气等大企业从价值最高的企业第一把交椅的位置上挤了出去，稳固了自己的龙头位置。到了2040年，早期老工业的龙头企业不复存在，它们尚有价值的部分也都被GAFA吞并了。马克·扎克伯格已经当了好几年美国总统；特朗普，这位老工业国家的疯狂总统早已归西。 无论欧洲还是美国，在还有能力的时候，都没能及时把垄断巨头关进笼子；在政府尚有权力的时候，错失了保护公民道德纯洁和自由的时机。在德国，阻力首先来自经贸工商协会，虽然协会非常不喜欢GAFA的商业行为和数据买卖，但还是非常希望能从中分一杯羹，它利用手中的权力极力反对禁止把掠夺侵犯私人领域的商业行为视为不道德商业行为。在这场游戏中人们根本不能取得胜利，更多人不得不面临失败。在2018年很多人对此显然不以为然，毕竟仅谷歌一家的市值就超过了欧洲所有电信业的总市值。期望通过竞争赶超谷歌，在2018年是不切实际的幻想。 第二大阻力来自德国的情报机构。德国联邦情报局（BND）、联邦宪法保护局（BFV）和联邦军事情报局（MAD），他们都很高兴能轻松愉快地收集私人数据。他们想方设法阻挠任何一个限制收集数据或者保护个人数据的尝试。德国各州内政部长们，由于恐怖袭击，在公众逼迫下不得不采取的一些反恐行动，跟情报局的愿望正好不谋而合。内政部每年都会通过媒体公布，因成功地进行了数据监控，及时阻止了恐怖袭击行动等相关信息。21世纪初，疯狂的伊斯兰教徒发动了恐怖袭击。生活在2040年的人貌似也没有理由追问情报机构，如果世纪初没有发生恐怖袭击，情报机构是不是就没有机会监控公共空间和互联网？位于柏林市中心的BND中心大楼，在冷战结束三十年后，是否还有必要修建得如此庞大，其规模远超过它在慕尼黑和科隆的旧址？人们不再需要文件柜，也不再需要储藏档案的大库房，档案资料只是体积很小的数据载体。如果BND中心的新办公楼比之前小一些，或许会更易于理解一些…… ## PDF_PHYSICAL_PAGE_INDEX=43 | PRINTED_PAGE=NOT_DETECTED 没有被滥用过的权力显然从来就没有过特殊的魅力。2018年的情况和以前相比或者跟2040年相比，没有什么不同。互联网承诺的无障碍沟通没有带来自由的春天，反而开启了全面监视的漫长寒冬。对此，西方国家很快就令人惊异地接受了。在互联网上坚持基本法，或者周末在咖啡馆里的演讲中称赞了自由的人，很有可能会受到监控。社会心理学所说的转移基线（shifting baselines）是指把一件事通过无数很小的步骤频繁地重复，使之逐渐转移到一个全新的维度。这些小步骤本身几乎不易被察觉，社会全面监控就这样在不知不觉中发生了。也正因为如此，德国人曾经一度成为纳粹，好比防晒霜的防晒指数从3号逐渐习惯到了50号。他们同样以这种方式逐渐接受了被剥夺自由的现状，而没有出现激进的抵抗。他们很高兴地接受了来自数字世界的许多小优惠：从汽车里的导航仪到无人驾驶汽车；从用于预防暴力的摄像镜头到智能城市——布满了不会放过任何一个行动的传感器；从对己方士兵没有风险的战争到系统地投放无人机，没有人因此再会暴露自己的面孔，也没有人因战争罪必须上法庭为自己辩护。 为什么德国公众没有进行哪怕是很微弱的抵御呢？也曾有人嘟囔了几声，但是，站起来反对某些商业行为和监控行为的人，很快就会被视为是疯子呓语和危言耸听，或者更有甚者，被视为科技和进步的仇敌。实际上这些人既没有反对科技，也没有反对进步，他们只是不想看到“某种”技术被投入应用，而是希望看到“另一种”科技进步。但是，这种进步喜欢戴着没有替代品的假面具出现。擅长宣传的说客们给它剪裁了一身漂亮的新衣，使它清晰靓丽地站在我们面前，以至于我们无法想象它还会是别的什么样子。 回顾西班牙人埃尔南·科尔特斯和弗朗西斯科·皮萨罗征服南美新世界的历史，我们会发现，16世纪中南美洲的西班牙征服者仅用了700人就征服了阿兹特克古文明帝国；一群只有160人的冒险家轻而易举地就占领了古印加帝国，恰恰是因为那时本土人没有认真对待外来的危险。相反，印第安文化还把入侵者看作是海外来的诸神。征服者们在当地煽动纷争，用新的想法诱惑当地土著民，甚至传播瘟疫。此情境与2018年德国的经济和政治的一部分极其相似，只是当局者并不这样看。他们看到的是自己健康的中型企业——德国经济的支柱；看到的是按居民人口计算，在全球市场上德国拥有比美国更多的重要发明专利。在很多方面德国视自己为全球市场的领导者，认为自己的文化具有极强的防御性。但是，德国射出的箭在敌人的盾牌上频频折戟，敌人的致命子弹却一个接一个地击中了自己。 ## PDF_PHYSICAL_PAGE_INDEX=44 | PRINTED_PAGE=NOT_DETECTED 德国的政客们从牧师和未来研究家、聪明的时代精神冲浪者、唯命是从的搭乘顺风车者，以及从顽固保守的海外商务代表那里获得了糟糕的咨询建议。很难想象，那些咨询顾问足蹬彩色运动鞋站在舞台上，光头戴着绿叶眼镜，休闲衫遮掩着啤酒肚，高声狂欢数字革命，狂欢硅谷的未来实验室。更不可想象的是，他们胸前挎着售货托盘叫卖“明日成功”的妙方，就像以前街头小商贩推销缝纫机丝线。在他们欢呼未来的时候，仿佛未来由他们创造，由他们决定的一样。有些人甚至相信，人们只需披挂上敌人的服饰，与对手系相同的领带，留蓄相同的胡子，敌人的神奇魔咒就会传递到自己身上，使自己的古老企业迸发奇迹。 乐观有时不仅使人激动，也会使人麻痹。如果它要求人们接受某一新事物，人们出于某种可理解的原因对其感到不舒服甚至怀疑，那么它会成为一种意识形态。有可能因为新事物威胁到了国民经济，也可能因为它所许诺的生活质量人们不觉得它更好，反而更糟。但是，硅谷过早地把“改变和发明”解释为自然法则，同时又把变革比喻为童心。“我主要是做了我喜欢的事情。”马克·扎克伯格这样告诉我们，听起来好像是他把儿童房间重新粉饰了一番。他还说，“我们早上醒来不是为了赚钱。”[13]太好了，硅谷没有人认为赚钱是重要的。所以，这个美丽的新世界还有可能继续扩大，它根据我们自己的规则重新发明和塑造我们的生活。 ## PDF_PHYSICAL_PAGE_INDEX=45 | PRINTED_PAGE=\* 2040年，硅谷的全球企业都很喜欢回忆它们曾经势不可挡的崛起。20个世纪的90年代，是野蛮西部的时代，那时互联网还只是一片只有零落拓荒者的普通荒野，它给大家许诺了一个更自由、更民主、更多表达机会的世界。2000年前后，聪明的专家和企业家加入，他们得到了投机者的支持，用新的方式开垦这块荒地，精心地经营打理。通过封闭式协议，即用铁丝网把产业封闭起来，外人不得入内，他们给自己的基地起了美丽的名字，比如推特、脸书、领英、Instagram或者WhatsApp，等等。互联网企业之间相互收购股份，他们的产品成为抢手的热门货。像马克·扎克伯格一样，这些人在自由网络里搭建起人们喜欢的东西，然后又把它们变成受保护的财产，事情一直这样发展下去。终于有一天，互联网不再属于所有人，而只属于少数人，属于美国的GAFA，属于中国的BAT（百度、阿里巴巴、腾讯），属于俄罗斯互联网巨头Mail.Ru和Yandex。 在新世界，没有有权有势的朋友或联盟，人很难独立生存。所以大数据的新人类很愿意跟国家的情报机构交换他们的信息。2010年初中国计划建设社会诚信征用体系，推行市民信用量化评分。将守信行为与失信行为以及行为人区分，是件“令人激动”的事。[14]计划从2020年起，在中国，人们不断自我完善，他们的行为无可挑剔。简单来说，社会诚信征用体系将人们是否遵守交通规则，是否孝敬父母，是否在互联网侵权，或者有无清除宠物粪便的行为信息收集。其中有些为重点监控，有些则不太重要。如果社会诚信征用体系分数从1050点降到了600点，那么这个人在社会上的行为会举步维艰。“有良好信用的人可以在天空下自由漫步，而失信的人则寸步难行”，这在2040年堪称典范。 但在其他国家和地方这个制度是非常敏感的。欧洲人和美国人爱自由幻想，但是事实也不全然这样。“我们知道你在哪儿，也知道你去过哪儿，我们还或多或少地知道你在想什么。”谷歌董事长埃里克·施密特的言论在2011年还曾引起惊愕和担忧。 [15]但之后这种言论没有再被重复提起，不久也就被人们遗忘了。中国有句俗语：“若要人不知，除非己莫为。”[16]早在2010年代，算法在美国就已经能判断出犯罪行为复发率会的可能性，以及处罚的严重程度。用数字存储档案的方式决定了未来的塑造。个体不再被视为意志自由，也不再被心理评估，而是被计算用数字作标记。如果有人曾经做了一件错事被曝光了，他很难会在任何一个地方被录用。医保公司会开始跟踪个人的营养和健康数据，对个人单独计算保率。同样，公司也会要求雇员出示血压、血糖、胆固醇、甘油三酯的指标和腰围数据，然后据此计算医保费用。 \* ## PDF_PHYSICAL_PAGE_INDEX=46 | PRINTED_PAGE=NOT_DETECTED 2010年代，欧洲出于数据保护禁止了部分行为，但是到了21世纪20年代发生了微妙的变化，欧洲很快就跟美国没什么不同了。21世纪20年时代的社会逐渐发展成了类似于1993年上映的美国电影《超级战警》里的样子，不再有暴利和犯罪，至少大街上没有了偷摸砸抢。不过人们还是注意不要公开说脏话，不要表达非主流观点，不要在公开场合显示性欲需求。互联网企业和情报机构之间有效而不幸的结合规范了这些行为，所谓不幸便是他们更加紧密合作，双方甚至人员交换。作为换取信息的回报，国家不再干涉他们的商业模式、间谍服务、数据交易，甚至给与广告资助，等等。 多年来哲学和社会基本价值观也随之发生了巨大变化。在20世纪，欧洲和美国等西方自由国家还引用启蒙主义，呼吁约翰·洛克、卢梭、孟德斯鸠和康德的启蒙精神，强调人人自由平等，呼吁人权宣言。人们从康德哲学中学会适当利用自由要有自己的判断力。这些在进步的21世纪中后期都已变成往事云烟，或许只有周末的饭后茶余还会被偶尔提及。人们以自律换取便利，以自由换取舒适，以思考换取幸运。启蒙主义的人类形象在布满监控传感器的美丽数字新世界和数字云里失去了立足之地。如果算法和掌握算法的人，对“我”的认识比“我”还更清楚，判断力还有什么用呢？生活成为了一种时间消遣。“成熟的”不是“我”的理智、“我”的意志和“我”对自己的认识，“成熟的”或者说因“成熟”而更“有经验的”，是算法里所记录的“我”的全部行为，记录不仅告诉我做了什么，我是谁，它还告诉我接下来我会做什么。在这个世界里，传统意义上的自由不再有它的位置了，充其量是自由幻想，就像人们有时候会需要看看绿色景观、有足够的体育活动和获得更多的认可。 ## PDF_PHYSICAL_PAGE_INDEX=47 | PRINTED_PAGE=NOT_DETECTED 21世纪具有吸引力的词不再是“判断力”，而是“行为”。对于启蒙主义哲学家来说，人的行动是他意志决定的表现。但是20世纪初期历史翻页了，行为主义成为时髦，随之而来的是对生物体的一种新观点。在像美国心理学家约翰·华生这样的科学家看来，每一个生物体都是一部刺激和反射机器。生物体试探周围环境，同时获得刺激效应，它会条件反射地避免环境所造成的不适感，寻求带来快乐的舒适感。无论是明确的行为还是混乱不清的思维，两者都是以同样的模式工作，有时易察觉，有时不易察觉。生物体根据刺激和反射机制决定他的行为改变，只要对这一过程观察足够，任何时候都会对每个行为做出准确的预测。 把生物体的行为和技术系统联系起来还只是最初的一步，把理论付诸实践的是美国数学家诺伯特·维纳。1943年维纳分析研究了第二次世界大战中的战斗机飞行员的行为，并创立了“控制论”——关于机器控制和调节、有生命的生物体和社会组织的科学。因为要首先分析行为，人们才可以通过改变环境而有目的地控制行为。维纳只是有个善意的想法，例如制作可以很好调控的假肢，他绝没有想到他的控制论思想会衍生出一种商业模式——从改变人们的环境发展变成有目的地操纵人类。后来他梦想有一个“自动机”，就像奥斯卡·王尔德所描绘的那样，可以替代无聊的人力劳作，也可以帮助人们测试自己的能力、完成自我教育、扩大自己的艺术才能。我们可以从他1948年出版的著作书名《人和人机——控制论和社会》看出他的态度。智能机器应该“有利于人类，帮助人类获得更多业余时间，帮助人类扩大他的精神视野，而不是为了赢利，或者把智能机器当作新的金牛犊崇拜16。”[17] ## PDF_PHYSICAL_PAGE_INDEX=48 | PRINTED_PAGE=NOT_DETECTED 在接下来的几十年里，控制论分蘖出多种学科，从人工智能研究到行为经济学。最新的招式是“暗示法”，有针对性地投放，以促进产生所期望的行为，这种理论让美国经济学家理查德·塞勒获得了2017年的诺贝尔奖。他的同事，同样擅长这方面知识的凯思·桑斯坦，早于2009年已经转入奥巴马政府白宫新闻办公室工作了。无论是给机器编程序还是给人限定条件，都采用同样的机制决定和控制行为。从控制论的控制中获利，在21世纪已经不再是一个禁忌话题了，从谷歌、脸书等科技公司开始，这已经成为世界上最能获利的商业模式。获利的第一步是出售使用搜索引擎或社交网用户的个人数据，把收集来的个人资料编辑成文件，再卖给最高出价者。第二步是以这样的方式分析数据，预测用户接下来的行为。通过信息选择或者购买建议（有时加以巧妙地隐藏），便可以时时控制用户的行为。用这种方法轻而易举地操纵目标群体的行为，可以满足企业的愿望，满足广告客户的愿望。如果用户有嫌疑行为，这种方法还能满足情报机构的需求。 传言，俄罗斯黑客2016年可能干预了美国总统大选，这在当时还闹得沸沸扬扬。现在大家知道，所有可以想得出的政府、企业、服务机构，或者组织机构，都会对选举施加影响，而且更直截了当，因为这种操作非常简便可行。轮流坐庄式的选举没有什么特殊之处。与日常中对个人数亿倍次的操控相比，操控选举简直易如反掌。社交网络不断改变环境，激发了用户的刺激和反射机制，人们的决定、愿望、偏好和意志由此受到操控。2040年，人们不再认同启蒙主义价值，也不再认同“‘我’是判断力的决定人”的崇高人类形象。让每个人获得幸福，既不是必要的，也不是必需的。操控的民主看似真实，实际上通过民主选举出来的政客们根本不再有什么权力了。 从控制论层面看，21世纪的政治不再依赖议员。如果大众是可以生成和控制的，为什么要把社会的未来交给大众？如果民主选举可以操控，为什么要把社会的未来交给脆弱的民主？雅克·朗西埃的后民主在2040年早已成为现实。政治被塑造成模型，被模仿，被媒介出 ## PDF_PHYSICAL_PAGE_INDEX=49 | PRINTED_PAGE=NOT_DETECTED 售，技术官僚在后台或者前台做出决定。选举竞争作为安抚剂，仅服务于怀旧情怀、蒙蔽真实的权力关系。早在2010年代，他们就是这样操作的：压缩竞选纲领和计划，不再有现实生活，竞选纲领完全相同的两个竞选人之间的“总理竞选”沦为花边新闻小报上的八卦秀。正如英国社会学家科林·克劳奇于2004年观察到的，人们对公共机构和国家机构一贯的负面评价，导致了他们最终完全被剥夺了权力。这适用于经济领域也同样适用于政治领域：真正最有权势的是隐藏在镜子后面看不见的。 \* 让我们再仔细看看2040年。在2018年许诺给我们一个美好世界的那些人，现在几乎夺取了全部权力。谷歌董事长埃里克·施密特的口号“连接世界是为了解放世界”透露出不恭。我们知道，只有很少的人能对电脑命令它应该做什么，更多的人则是听从电脑的指令，还有更多的人什么也做不了。过去很多工作需要有技能经验才能完成，现在都不再需要了，这导致人的手艺、方向感和教育史无前例的退化。人们忘记了如何驾驶汽车、如何看地图、如何在这个世界上独自找寻路线。人们不必再去记忆什么，因为电子仪器帮我们记忆一切；人们关于世界知识的存储越来越少，因为电子仪器替代我们存储。很多人在某些方面又变回幼童，对世界知之甚少，越来越依赖技术。这些人缺乏生活勇气，没有电子辅助设备甚至不敢离开家一步（或许很快就要在大脑里植入芯片了）；他们使用石器时代的象形文字互动沟通，孩子般幼稚地在喜恶中分享世界。/書 分 享 公 眾 號 晚 霞 书 房 由于失去了判断力，人们很容易在金钱方面上当受骗。无论在虚拟的网络电商中还是在实体店里，所有的价格都不再可靠。价格取决于谁来买，什么时候来买以及买多少，这样就可以让顾客最大限度地花钱。智能机器运作成千上万的数据，让价格匹配消费者，使企业总是盈利，顾客总是吃亏。当有些人每天都在计算价钱，尽量使自己不要吃亏的时候，必然会有一些人会因此利益受损。比如，保险公司的长期客户、手机供应商和付费媒体的长期客户，在这方面他们会得到变相吃亏受损。企业对客户忠诚早已变成背信弃义。在这里同样是介入了“转移基线”原则，一切都以很小的步骤频繁地发生在日常生活里，直到有一天它们不再被人们察觉。昨日的非道德成为明日的常态。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/e24aa553-3cc7-4b82-96ef-9d61fdb4ce1e.md?start=50&limit=10)