过度智能

1. Jathan Sadowski, “Office of Technology Assessment: History,Implementation, and Participatory Critique,” Technolo_gy in Societ_y 42 (2015): 9—20; Jathan Sadowski and David H. Guston, “Technology Assessment in the USA: Distributed Institutional Governance,”Technolo_gy 24, no. 1 (2015):53—59; Cynthia Selin, Kelly Campbell Rawlings, Kathryn de Ridder Vignone, Jathan Sadowski, Carlo Altamirano Allende, Gretchen Gano, Sarah R. Davies, and David H. Guston, “Experiments in Engagement: Designing Public Engagement with Science and Technology for Capacity Building,” Public Understandin_g of Science 26, no. 6 (2017): 634—649; Ben A. Wender, Rider W. Foley,Troy A. Hottle, Jathan Sadowski, Valentina Prodo-Lopez, Daniel A. Eisenberg, Lise Laurin, and Thomas P. Seager, “Anticipatory Life Cycle Assessment for Responsible Research and Innovation,”Journal of Res_ponsible Innovation 1, no. 2 (2014): 200—207.

1. 本节是基于“卢卡斯计划”的详细报告撰写的，该计划是以可持续发展的社会、技术和环境途径(STEPS)为中心而制定的。Adrian Smith, “Socially UsefulProduction,” STEPS Working Paper(Brighton, UK: STEPS Centre, 2014), 1(emphasis added).

1. Mike Coole_y Architect or Bee? The Human Price of Technolo_gy,2nd ed. (London: Hogarth Press, 1987), 139.

1. Smith, “Socially Useful Production,” 2.

1. Quoted in STEPS Centre, “Lucas Plan Documentary,” YouTube,January 16,1978, accessed November 8, 2018, https://www.youtube.com/watch? v=0pgQqfpub-c.

1. Olivia Solon and Sabrina Siddiqui, “Forget Wall Street—Silicon Valley Is the New Political Power in Washington,” Guardian,September 3, 2017, accessed November 20, 2018, https://www.theguardian.com/technology/2017/sep/03/silicon-valley-politics lobbying-washington.

1. Moira Weigel, “Coders of the World, Unite: Can Silicon Valley Workers Curb the Power of Big Tech?,” Guardian, October 31,2017, accessed November 9, 2018, https://www.theguardian.com/news/2017/oct/31/codersof-the-world-unite-can-silicon-valley workers-curb-the-power-of-big-tech.

1. Katrina Forrester, “Known Unknowns,” Har_per^'s, September

2018,accessed November 22, 2018, https://harpers.org/archive/2018/09/the-

余论

千万别让电脑跟我胡扯！

——Del the Funky Homosapien ，歌曲《3030》的歌词

科技的进步唤起了人们共同的敬畏和钦佩之情，历史学家戴维·奈（David Nye）将之称为“美国技术的崇高性”。 这样，技术不仅等同于进步，也被赋予神圣之美。

无论人们是去硅谷朝圣，还是在当地“大教堂”门前扎营，在苹果或谷歌的发布会活动期间，我们都可以看到某些人身上那种狂热的痴迷。每一年，科技产品的信徒都处于“圣滚” 的边缘，他们就像“福音传道者”一样——这是他们的标签，而不是我们的标签——赞美技术的荣耀。

这是社会文化中很常见的现象。即使是我们当中那些不那么狂热的极客也被教导要去欢迎技术，或者至少不能去阻挡技术的发展。乐观或默许是我们面前唯一“合理的”选择。其他任何做法都被烙上了犬儒主义和悲观主义的烙印。

这些文化观念是批判性声明要克服的一大障碍。批判立即就会引起怀疑。人们从一开始就处于防御状态。但正如本书所展示的，我们有充分的理由对何种技术应该被创造出来、以及该如何去运用这些技术提出批判。对于现有秩序的批判，包括对形塑社会的人、思想和事物等的批判，我们不该手下留情。引用卡尔·马克思（Karl Marx）的话，它必须是“勇往直前的，因为它既不会因自己的发现而退缩，也不会因与权力的冲突而退缩”。

我在书中详述的那些看似反乌托邦的内容，并非来自推测性的未来。它们全都直接源于现实。这些并非小说，而是陈述现实，而且我只是触及了智能技术强化收集和控制、提取和剥削等方式的表皮而已。数字资本主义的创新精神使这些技术日臻完善。

反乌托邦的故事给任何关于技术“黑暗面”的争论都蒙上了阴影。

报道任何一种可怕的或令人毛骨悚然的新技术几乎都会不可避免地提到乔治·奥威尔（著有《1984》）和奥尔德斯·赫胥黎（AldousHuxley）（著有《美丽新世界》）等作家。他们被认为是信息时代的不祥先知，但他们并非完全合适的人选。坦率地说，这些作者并没有预料到智能社会会变得如此诡异，且毫无秩序。他们预言了一种监视和支配体系的出现，这个体系能像一台超级高效、超级理性的机器一样运作。但在现实中，我们得到的却是超现实的、低劣的、老出故障的、粗糙的、贪婪的和暴力的体系。

如果我们去寻找反乌托邦故事来阐释数字资本主义，那么，关键并不在于哪些故事能最准确地预测技术将如何发展，而在于哪些故事能把握我们现在的情绪和当权者的动机。 在这种情况下，不幸的是，对我们来说，奥威尔和赫胥黎都不是最佳选择。相反，我们应该去看看导演保罗·范霍文（Paul Verhoeven）电影中（例如《机械战警》和《星河战队》等）所表现的技术法西斯主义，以及科幻小说作家菲利普·K.迪克作品中（例如《少数派报告》和《仿生人会梦见电子羊吗》）所描写的技术偏执狂，等等。

每个反乌托邦的世界对于某些人来说就是乌托邦，而对另一些人来说也许只是日常生活。这只不过是以上三个维度的程度与分布不同罢了。

我已经展示了智能社会的危害是如何扩散开来并日趋严重的。然而，那些没有经历过这些影响的人们往往意识不到周遭所存在的榨取、剥削和排挤，以及自身的生活方式对此的依赖。如果现在看起来还不错，甚至很棒，那就算你走运吧。但事情可能并不总是这样如意。

资本主义发展轨迹是一条通向社会不平等、经济不稳定和生存不安全等状况日趋恶化的道路。 资本主义的数字转向并未颠覆这一轨迹，反倒增强和加速了这一趋势。社会顶层空间只有这么大，社会富裕而稳定的空间是有限的。与此同时，很多人都被猛推出去，被排挤在单调而舒适的日常生活之外。对许多人来说，过上平常生活就是理想。值得再次引用的是，那位靠政府福利救济的妇女曾经对弗吉尼亚尤班克斯所发出的警告，她生活中的每一步都受到了追踪和控制，她说：“你们应该关注我们的遭遇。接来下就是你们了。”

如果我所描述的事态发展听起来令人痛心，那么这是否意味着我们已经以某种方式跌入了现实生活中的反乌托邦境地呢？如果是这样的话，我们难道不应该尝试着去做点什么吗？

黑暗之中仍有曙光。例如，在决定我们未来的斗争中，由于公众日渐高涨的反对呼声和工人的抵制行动，硅谷及其“技术崇高性”正在节节败退。最后，人们开始怀疑那些声称通过技术创造美好世界的企业家身上大男孩般的魅力。人们越发意识到，不能指望科技公司会把公众的最大利益放在心上。他们以往的作为——如果不是出于恶毒的原因，那么也是出于疏忽和天真，已经证明了人们采取相反的假设反倒会更加安全。

本书可能会被人称为是反乌托邦的，但事态不必非这样发展不可。

抵制、重新定义和重新设计智能社会必将困难重重，但也势在必行。撒切尔夫人的口号“你别无选择”是一句昭告胜利的宣言。硅谷现在也挂上了“任务完成”的旗帜。我们的任务就是证明他们现在庆祝还为时过早。

1. 美国说唱歌手、词曲作者和唱片制作人，其真名为特伦·德尔冯·琼斯（Teren Delvon Jones），艺名为Del the Funky Homosapien或Sir DZL。——译者注

致谢

这本书得以面世要感谢很多人，他们在知识方面、社会资源和专业方面做出了重要贡献。我无法向所有值得感谢的人逐一致谢，在此仅简要表达我诚挚的谢意。

感谢我的家人，他们一直给予我支持和鼓励，即使他们并不完全清楚我一直在忙什么。读研时，我一直在全国各地学习，成为学者后又开始在世界各地工作。他们深知这是我非常在乎的追求，他们总是以任何可能的方式帮助我寻找机会。

感谢我生活和旅行过的所有地方的朋友们，你们让我在研究本书的思想时保持清醒。我叫不出你们所有人的名字——坦佩船员、代尔夫特船员和悉尼船员，我无论何时走到何处都能见到这些四海为家的船员——但你们知道自己是谁。

我并不想显得偏心，但如果不专门感谢那两位我每日与之交谈的好朋友，就太过疏忽了。索菲亚·马尔森（Sophia Maalsen）是任何人都希望结交的最佳工作伴侣。我们经常一起聊天、喝咖啡、散步，这是我美好生活中必不可少的习惯。从见第一面起，艾米·格拉夫（Amy Graff）就一直是我最亲密的朋友之一。我很感激这份珍贵的友谊，即使跨越时空，它依旧牢固且亲密。

我很幸运能把写这本书作为我的工作。我曾经工作过的大学—亚利桑那州立大学、代尔夫特理工大学，特别是悉尼大学，都为我潜心研究提供了条件，我合作过的同事们也都非常出色。我幸运地参与了不同的研究小组和项目团队，这为我们分享想法、讨论工作进展、庆祝成功和挫败后互相安抚提供了所需空间。

最后，我从一个不断壮大的由同事和同行所组成的网络社群中受益匪浅。多个日夜，我参加各种会议、研讨班和座谈会，同时我建立了这个社群。在这里，我可以和最杰出和最慷慨的学者们一起交流。而这个社群也通过我在推特上所遇到的人、所开展的交谈和在推特潜水的过程中不断发展起来。无论好坏，这些线上经历同样也塑造着我。有时候，这两个空间会交叉重叠，这感觉既古怪又奇妙。在美好的日子里，我非常开心能成为这个活跃社群的一分子，而在糟糕的日子里，我会暂时离线。